警方正在花钱让人工智能分析随身摄像机音频，以确保其“专业性”

据报道，越来越多的执法部门开始使用人工智能程序来监控警员与公众的互动。据多方消息称，警方特别邀请了芝加哥的 Truleo 公司，该公司提供人工智能自然语言处理，用于处理从备受争议的随身摄像机记录中提取的音频转录日志。此次合作引发了人们对数据隐私和监控的担忧，以及人工智能自动化带来的有效性和偏见问题。

Truleo 成立于 2019 年，通过与 FBI National Academy Associates, Inc. 合作成立，目前客户名单不断增加，已包括加利福尼亚州、阿拉巴马州、宾夕法尼亚州和佛罗里达州的警察局。西雅图警察局刚刚与该公司续签了一份为期两年的合同。科罗拉多州奥罗拉市的警察局目前正接受州检察长关于种族偏见和过度使用武力的同意令，他们也将使用该软件，据报道，每位警官每月的费用约为 50 美元。

[相关：警察随身摄像机本应能建立信任。但到目前为止，并没有起到作用。]

Truleo 网站称，它“利用”专有的自然语言处理 (NLP) 软件来分析、标记和分类警察与公民互动的记录，希望提高专业性和效率。记录日志根据某些参数进行分类，并通过详细报告呈现给客户，供他们酌情使用。例如，奥罗拉警察局长 Art Avecedo 在 Truleo 网站上发布的另一次采访中表示，该服务可以“及早识别行为模式——提供咨询和培训，以及比传统上更早干预 [不专业行为] 的机会。”

Truleo 联合创始人兼首席执行官 Anthony Tassone 在电话中向PopSci表示，Truleo 软件“依赖于计算机的 GPU”，并且仅安装在警察局的云环境中。“我们没有登录信息或访问这些信息的权限，”他说。他说，Truleo 的唯一目的是为警察局提供文本分析工具，以分析和评估他们的警员。

该公司网站提供了带有 AI 确定的描述的示例记录，例如“正式”、“解释”、“定向亵渎”和“威胁”。语言检测技能似乎还可以识别诸如追捕、逮捕或医疗救助请求等行为。该程序的其他分类示例包括“我可以看看你的驾照和登记吗？”（好）和“如果你从这里搬走，我就打断你的腿”（坏）。

然而，当被问及平民选择退出这种新形式的员工发展的权利时，塔索内警告说，他只能“推测或猜测”他们的选择。

“我的意思是，我不是律师，”当被问及平民选择退出的权利时，塔索内强调道。“这些问题更适合地方检察官，也许是警察工会律师。一旦这些信息被记录在随身摄像机数据中，你就会问‘它属于谁？’”

“民众可以打电话给[当地部门]并要求撤离吗？我不知道，”他补充道。

PopSci联系了阿拉米达和奥罗拉执法代表征求意见，并将相应更新这篇文章。

[相关：美国司法部正在调查一种可能伤害宾夕法尼亚州家庭的人工智能工具。]

马凯特大学计算机科学系副教授兼副主任、数据、伦理和社会中心主任迈克尔·齐默 (Michael Zimmer) 通过电子邮件PopSci敦促谨慎使用该技术。

他说：“虽然我承认将人工智能应用于随身摄像机镜头的良好意图......但我担心这种算法的建模和训练可能会充满偏见。”

齐默质疑“良好”互动与“有问题”互动究竟如何定义，以及谁来定义它们。鉴于平民与警察之间的互动普遍存在紧张甚至对抗性，齐默对人工智能“仅基于随身摄像头音频互动”判断警察有问题的行为提出质疑，称这是“无处不在的监控正常化的又一案例”。

Truleo 网站称，任何经过分析的音频首先通过端到端加密刑事司法信息服务 (CJIS) 合规数据传输流程从上传的随身摄像机镜头中分离出来。CJIS 合规指南由 FBI 于 1992 年制定，旨在确保政府执法部门和 Truleo 等供应商在存储和处理个人数字数据时保护个人的公民自由，例如隐私和安全自由。但需要注意的是，“合规”不是“认证”。CJIS 合规性仅通过 Truleo 等公司及其执法机构客户的考量来评估。没有集中授权实体来授予任何具有法律约束力的认证。

无论如何，塔索内解释说，Truleo 产品的本质就是禁止其员工访问机密信息。“在我们处理 [随身摄像机] 音频后，没有任何数据衍生品。没有法院可以强迫我们提供任何东西，因为我们没有保留任何东西，”塔索内说。“这是数字废气——它是‘计算机内存’，它已经消失了。”

Truleo 的技术也只分析自愿提供的随身摄像头数据——处理哪些数据仍由警察局长、警长和其他 Truleo 客户自行决定。但Axios指出，绝大多数随身摄像头拍摄的画面都未经审查，除非有民众投诉或外部公众压力，例如 Tyre Nichols 死亡案。即便如此，画面仍然难以获取——看看围绕阿拉巴马州蒙哥马利市约瑟夫·佩塔威之死的多年斗争就知道了。

[相关：人工智能能够进行对话并不意味着它很聪明。]

与此同时，目前尚不清楚，对于那些不愿意看到自己与当局的互动被转录用于人工智能文本分析的平民来说，他们能采取什么补救措施。塔索内告诉PopSci，如果少数人要求将他们的数据排除在当地部门的项目之外，他不会有任何问题，因为这可能不会影响 Truleo 的“整体匿名总分”。

“我们正在查看一名警官在一年时间内的数千次互动，”他提出了一个一般要求。“因此，如果一名平民 [不想] 分析他们的数据来决定他们是否服从，或者他们是否感到不满，”他停顿了一下。“同样，这实际上归结为：人工智能会说，‘这位平民在通话中是否有投诉？’‘是’或‘否’。‘这位平民是否感到不满？’‘是’或‘否’。就是这样。”