英国新出台的法官使用人工智能聊天机器人的指导方针一团糟

人工智能大型语言模型 (LLM) 生成的文本正在缓慢但稳步地融入我们的日常生活，现在包括法律裁决。英国司法部本周发布的新指南为法官提供了一些额外的明确说明，说明何时可以或不可以依赖这些工具。英国指南建议法官不要使用这些工具生成新的分析。但是，它允许总结文本。与此同时，越来越多的美国律师和被告因草率地将人工智能引入他们的法律实践而受到罚款和制裁。

[相关：“电台主持人起诉 ChatGPT 开发者涉嫌诽谤”]

司法办公室的 AI 指导是一系列建议和推荐，旨在帮助法官及其书记员了解 AI 及其局限性，因为这项技术正变得越来越普遍。这些指导方针不是可处罚的法律规则，而是司法办公室为阐明法官如何与技术互动而采取的一系列努力中的“第一步”。

总体而言，新指南表示，法官可能会发现 OpenAI 的 ChatGPT 等人工智能工具可用作总结大量文本的研究工具，或用于帮助起草电子邮件或备忘录等行政任务。同时，它警告法官不要使用工具进行依赖无法独立核实的新信息的法律研究。至于形成法律论据，该指南警告公共人工智能聊天机器人根本“无法产生令人信服的分析或推理”。法官可能会发现使用人工智能聊天机器人挖掘他们已经知道准确的材料有一些好处，但他们应该避免使用这些工具对他们自己无法验证的主题进行新的研究。看来，该指南让用户有责任在 LLM 输出中分辨事实和虚构。

指导意见中写道：“它们（人工智能工具）最好被视为一种获取非明确确认的方式，而不是提供立即正确的事实。”

该指南还警告法官，即使向 AI 工具提供非常详细或严谨的提示，它们也可能输出不准确、不完整或有偏见的信息。这些奇怪的 AI 捏造通常被称为“幻觉”。同样，建议法官不要将任何“私人或机密信息”输入该服务，因为其中一些信息“本质上是公开的”。

指导意见中写道：“您输入公共人工智能聊天机器人的任何信息都应被视为向全世界发布。”

由于提示中产生的信息是“非确定性的”并且可能不准确，而输入到法学硕士课程的信息不能包含对全面审查（比如诉讼文本）可能至关重要的“私人”信息，因此目前还不太清楚它在法律背景下的实际用途。

上下文相关数据也是司法办公室关注的一个领域。目前市场上最受欢迎的人工智能聊天机器人，如 OpenAI 的 ChatGPT 和谷歌的 Bard，都是在美国开发的，拥有大量以美国为中心的数据。该指南警告称，过分强调美国训练数据可能会让人工智能模型对法律的“看法”偏向美国法律背景和理论。不过，指南指出，归根结底，法官仍需对以他们的名义制作的材料负责，即使是在人工智能工具的帮助下制作的。

据报道，英格兰和威尔士民事司法部负责人杰弗里·沃斯 (Geoffrey Vos) 在指南发布前告诉路透社，他认为人工智能“为司法系统提供了巨大的机遇”。他接着说，他相信法官能够发现使用人工智能制定的法律论据。

据路透社报道，沃斯表示：“法官们接受过判断真假的训练，在现代人工智能世界中，他们也必须像以前一样做这件事。”

尽管对准确性存在担忧，但一些法官已经发现人工智能“非常有用”

三个月前，英国上诉法院法官伯尔斯 (Lord Justice Birss) 使用 ChatGPT 提供某个法律领域的摘要，然后使用该摘要的一部分撰写判决书。据《卫报》报道，当时这位法官称赞 ChatGPT “非常有用”。伯尔斯在今年早些时候的新闻发布会上表示，即使判决书是在人工智能工具的帮助下创建的，他最终仍应对判决书的内容负责。

“我对自己做出的判断负全部个人责任，我并不想把责任推给别人，”伯斯在《法律公报》上表示。“它所做的只是一项我将要完成的任务，我知道答案，并且认为它是可以接受的。”

由于缺乏明确的规则来说明何时以及如何在法律文件中使用人工智能工具，一些律师和被告已经陷入困境。今年早些时候，两名美国律师因提交了一份包含由 ChatGPT 生成的虚假引文的法庭文件而被罚款 5,000 美元。最近，据报道，一名英国女子也被发现使用人工智能聊天机器人为自己辩护。在发现她提交的判例法中包含人工智能模型虚构的细节后，她最终在上诉中败诉。今年早些时候，ChatGPT 据称在与他无关的贪污案中将一名电台节目主持人列为被告，OpenAI 甚至成为诽谤诉讼的目标。

[相关：“欧盟强有力的人工智能法案已经出台。但为时已晚吗？ ”]

人工智能在法律诉讼中的模糊性可能会先恶化，之后才会有所改善。尽管拜登政府在其最近的人工智能行政命令中提出了管理人工智能在法律环境中部署的建议，但国会仍未通过任何制定明确规则的全面立法。在大西洋彼岸，欧盟最近通过了自己的《人工智能法案》，该法案针对被视为“高风险”的各种人工智能工具和应用程序引入了更严格的安全和透明度规则。但违反这些规则的实际处罚可能最早要到 2025 年才会出台。因此，就目前而言，法官和律师在确定人工智能使用的道德界限时，大多是凭直觉行事。