近日，加州北部法院的一起法律纠纷揭示了AI技术在法律领域应用的新挑战。在涉及音乐出版商的诉讼中，新兴科技公司Anthropic遭遇了一桩意外事件。据法院文件显示，Anthropic的一名法律顾问在诉讼过程中，不慎引用了一条由公司内部AI聊天机器人Claude提供的虚构法律引文。
据Anthropic方面解释，Claude在生成引文时“创造了一个不存在的法律标题和作者”。这一错误最初由彭博社报道，Anthropic的律师随后承认，他们的“人工复核流程”未能及时发现Claude生成的这一错误引文，以及其他几个类似的错误。
对此，Anthropic表达了诚挚的歉意，强调这是一次无心之失，而非故意误导法庭。公司表示，这是一次“诚实的错误，并非有意编造法律依据”。
事件的起因是，环球音乐集团及其他音乐出版商的代理律师指控Anthropic的专家证人、公司员工Olivia Chen在法庭证词中引用了Claude生成的虚假文章作为法律依据。随后，联邦法官Susan van Keulen要求Anthropic对此进行说明。
这起诉讼案只是众多版权方与科技公司在生成式AI工具使用上的法律争议之一。近期，AI技术在法律领域的应用引发了广泛关注，但随之而来的问题也逐渐显现。
就在本周早些时候，加州一位法官对两家律师事务所在庭审中提交“虚假的AI生成研究材料”的行为提出了严厉批评。而在今年1月，澳大利亚也有一名律师在准备法庭文件时使用了ChatGPT，结果错误地引用了法律文献。
尽管AI技术在法律领域的应用出现了这些失误，但初创企业仍在这一领域吸引了大量投资。据报道，专注于利用生成式AI辅助律师工作的初创公司Harvey正在洽谈一轮超过2.5亿美元的融资，公司估值可能高达50亿美元。
