近日，加州的一名法官对两家律师事务所的行为表示强烈不满，原因是它们在一份补充法律文件中使用了未披露的人工智能生成的研究材料。法官迈克尔・威尔纳在上周的裁决中对这些律所处以31，000美元的罚款，理由是这份文件中存在大量虚假、不准确和误导性的法律引用和引文。
图源备注:图片由AI生成，图片授权服务商Midjourney
法官威尔纳在判决书中提到，他阅读了该法律文件，并对其中引用的法律案例产生了兴趣，结果却发现这些案例根本不存在。他指出，这种情况令人恐惧，差点导致他在司法命令中引用这些虚假的材料。他强调，“任何一个合理称职的律师都不应该将研究和写作外包给人工智能。”
根据法院文件，在对 State Farm 的民事诉讼中，一位原告的法律代表使用人工智能生成了补充文件的提纲。然而，当这份提纲被发送至另一家律师事务所 K&L Gates 时，所包含的 AI 生成的研究材料实际上是虚假的。法官威尔纳指出，这两家律所的律师或工作人员显然没有对这些研究材料进行核对或审查就提交了文件。
在审查文件时，威尔纳法官发现至少有两个引用的案例根本不存在。他在向 K&L Gates 询问后，该律所重新提交的文件中包含了更多虚构的引用和引文。法官随后要求律师们说明情况，最终导致律师们承认使用了人工智能工具，包括 Google Gemini 和 Westlaw Precision 中的法律研究工具 CoCounsel。
此次事件并非首次，之前还有律师在法庭上因引用虚构的案件而被抓。例如，前特朗普律师迈克尔・科恩曾因误解 Google Gemini 而在法律文件中引用了虚假的法院案件。此外，曾有律师在针对哥伦比亚航空公司的诉讼中也包含了由 ChatGPT 生成的大量虚假案例。
法官威尔纳在判决中重申，初步未披露使用人工智能产品生成的文件草稿是 “绝对错误的”，并且在未告知其他律师其可疑的 AI 来源的情况下，将这些材料发送给他们，实际上是将这些专业人士置于危险之中。
划重点:
🔍 法官对使用虚假 AI 生成材料的律师事务所处以31，000美元罚款。
⚖️ 法官发现文件中包含多个虚构的法律案例，导致法律引用失真。
🤖 律师承认使用了人工智能工具进行法律研究，未进行必要的核对和审查。