法律AI幻觉导致错误判决赔偿案：纽约法院判赔120万美元

纽约南区联邦法院在9月4日作出了一项具有里程碑意义的判决：因律师使用的AI法律研究工具LexiSearch生成了虚假的判例引用，导致一起价值800万美元的合同纠纷案出现错误判决，法院判令AI工具开发商向受影响方赔偿120万美元。

案件的经过是：被告方律师在准备答辩材料时使用了LexiSearch进行判例检索。该工具引用了6个支持被告立场的判例，但经原告方核实，其中4个判例根本不存在——它们是LexiSearch的「幻觉」输出。法官在发现这一问题后推翻了原判决，并对AI工具的开发商提起了藐视法庭的诉讼。

LexiSearch的开发商在庭审中辩称，其产品使用条款中已明确标注「所有输出需由人工核实」，因此不应承担全部责任。但法官驳回了这一抗辩，认为「当一个专业工具的错误率达到67%时，免责声明不能成为免责的理由」。

这一判决在法律行业引发了广泛讨论。美国律师协会在9月7日发表声明，建议所有会员在使用AI法律工具时必须对每一条引用进行独立核实。