警察正在使用人工智能软件撰写警方报告

警察部门往往是科技行业最早采用新产品的部门之一，例如无人机、面部识别、预测软件，以及现在的人工智能。在已经采用人工智能音频转录程序之后，一些部门现在正在测试一种新的、更全面的工具——利用类似于 ChatGPT 的技术自动生成警察报告的软件。据美联社8 月 26 日报道，许多警官已经对这款生成式人工智能工具“充满热情”，该工具声称可以将日常办公时间缩短 30-45 分钟。

Axon 公司于 4 月首次宣布 Draft One 项目，称其为“朝着减少警方与公众之间枪击死亡的登月目标迈出的最新一大步”。该公司以泰瑟枪和执法部门最受欢迎的随身摄像头系列而闻名，声称其初步试验为用户每天减少了一小时的文书工作时间。

Axon 在披露的信息中表示：“当警员可以花更多时间与社区联系并照顾好自己的身心健康时，他们就能做出更好的决定，从而取得更成功的缓和结果。”

该公司当时表示，Draft One 是基于微软的 Azure OpenAI 平台构建的，可以自动转录警察随身摄像机的音频，然后“利用人工智能快速创建叙述草稿”。报告“严格根据音频记录起草”，遵循 Draft One 的“基本模型……以防止猜测或夸大其词”。在添加其他关键信息后，警官必须签署报告的准确性，然后才能进行另一轮人工审查。如果人工智能参与了报告的撰写，每份报告也会被标记。

[相关：ChatGPT 一直在产生奇怪的无稽之谈（比平时更多）。]

Axon 的 AI 产品经理 Noah Spitzer-Williams 周一在接受美联社采访时声称，Draft One 使用“与 ChatGPT 相同的底层技术”。ChatGPT 的基础生成式大型语言模型由 OpenAI 设计，经常因其在响应中提供误导性或虚假信息而受到批评。然而，Spitzer-Williams 将 Axon 的能力比作拥有比普通 ChatGPT 用户更多的“旋钮和刻度盘”。据称，调整其“创造力刻度盘”有助于 Draft One 保持其警方报告的真实性，并避免生成式 AI 持续出现的幻觉问题。

目前，Draft One 的适用范围似乎因部门而异。俄克拉荷马市警察局长 Jason Bussert 声称，他所在的 1,170 名警员的部门目前只将 Draft One 用于不涉及逮捕的“小事件报告”。但据美联社报道，在印第安纳州拉斐特，为该镇近 71,000 名居民服务的警察可以自由使用 Draft One“处理任何类型的案件”。与此同时，拉斐特邻近的普渡大学的教职员工认为，生成式人工智能根本不够可靠，无法处理可能改变人生的与警察发生冲突的情况。

“ChatGPT 等工具所依赖的大型语言模型并非旨在生成真相。相反，它们基于预测算法将听起来合理的句子串联起来，”普渡大学专注于数字和技术伦理的临床副教授 Lindsay Weinberg 在给《大众科学》的一份声明中说道。

[相关：研究表明，ChatGPT 的准确性变得更差了。]

担任技术正义实验室主任的温伯格还认为，“几乎你能想到的每一种算法工具都被一次又一次地证明可以重现和放大现有的种族不公正形式。”多年来，专家们已经在大型语言模型中记录了许多基于种族和性别的偏见的例子。

温伯格说：“在目前支持和批准大规模监禁（边缘化人群）的法律体系背景下，使用一些工具让生成警方报告变得‘更容易’，这应该引起那些关心隐私、公民权利和正义的人的深切关注。”

在发给《大众科学》的电子邮件中，OpenAI 的一位代表建议将问题直接转给微软。截至撰写本文时，Axon、微软和拉斐特警察局尚未回应置评请求。