游泳、足球和监控：巴黎准备举办人工智能监控的奥运会

今年的夏季奥运会下周将在法国巴黎开幕，届时将有近 100 辆载满世界顶尖运动员的彩车缓缓穿越塞纳河。大约 50 万粉丝将为他们国家的体育大使穿过卢浮​​宫、埃菲尔铁塔和旅游指南中提到的其他历史古迹欢呼雀跃。但观看的不仅仅是粉丝。数千台俯瞰河流的闭路电视摄像机将实时监控比赛过程。在幕后，强大的新型人工智能模型将仔细检查录像，寻找人群中隐藏的任何危险迹象。这项备受争议的新型人工智能监控系统是法国利用科技手段使今年的奥运会成为历史上监控最严密的奥运会之一的几种方式之一。批评人士认为该系统可能违反欧盟更广泛的隐私法。

人工智能监控将关注人群骚乱

法国立法者去年年底通过了一项新法律，暂时授予执法部门使用“实验性”人工智能算法监控公共视频源并提供“实时人群分析”的能力。据报道，在实践中，人工智能检测模型将解析数千个闭路电视摄像机的画面，寻找隐藏在奥运人群中的潜在危险异常迹象。这些警告信号可能包括持枪者、人群规模超过预期、打架斗殴以及无人看管的行李。

法国正与多家科技公司合作进行人工智能分析，其中包括 Wintics、Videtics、Orange Business 和 ChapsVision。执法部门已在一些地铁站、戛纳电影节和人满为患的 Depeche Mode 音乐会上测试了新系统。巴黎警察局长 Laurent Nunez 最近告诉路透社，音乐会的测试“相对顺利”，并且该系统在奥运会期间的使用“一切顺利”。

如果人工智能模型确实检测到潜在威胁，它会向人类执法人员发出信号，然后由执法人员决定是否采取进一步的执法行动。法国官员坚称，实时分析将全部在不使用面部识别或收集其他独特生物识别符的情况下进行。执法部门及其私人合作伙伴表示，该模型只会测量身体运动和定位等“行为”模式。官员们声称，人工智能无法根据生物识别身份识别个人。

据报道，法国内政部长杰拉德·达尔马南 (Gérald Darmanin) 在今年早些时候与法国议员的一次会议上表示：“问题不在于在人群中认出‘X 先生’，而在于认清形势。”

奥运会将对法国新推出的“实验性”人工智能视频监控进行测试

但一些批评人士质疑，在不无意中收集和比较某些生物特征识别符的情况下，进行这种人工智能视频分析在技术上是否有可能。这样做可能会使法国违反欧洲的《通用数据保护条例》（GDPR）和最近颁布的欧盟《人工智能法案》。今年早些时候，38 个欧洲民间社会组织联盟在一封公开信中声称，该模型报告的对步态、身体姿势和手势的监测仍可能被视为用于识别某些个人或群体的生物特征标记。这些组织认为，如果是这样的话，那么该系统将违反现有的 GDPR 规则，该规则限制了在公共场所允许收集的生物特征数据的范围。

国际特赦组织研究员兼人工智能和人权顾问马特·马哈茂迪 (Matt Mahmoudi) 告诉《大众科学》，区分涉及行为或生物识别的人工智能分析更多的是语义而非实质。马哈茂迪表示，这些模型可能仍然依赖于包括生物识别的“参考数据库”。

“行为监控包括识别和检测面部、身体、手势、模式和动作，以及各种形式的生物特征数据，这些数据使社区遭受大规模监控，而且往往是种族歧视，”马哈茂迪说。“任何体育赛事都不应涉及生成虚拟的警察阵容，否则观众就会默认为可疑。这项技术完全站不住脚，违反了国际法。”

GDPR 规则确实允许在公共利益许可下对生物特征收集规则进行某些例外，但人权组织认为，法国案件中授予的许可过于宽泛，与任何明显的威胁不成比例。人权组织和一些反对这项快速通过的法律的议员还担心，这可能为未来的公共监控法案开创一个危险的先例，并可能破坏欧盟在控制人工智能监控方面所做的更广泛努力。国际特赦组织人工智能监管顾问 Mher Hakobyan 表示，即使是暂时的监控权力“也有可能将法国永久变成一个反乌托邦的监控国家”。人权观察组织也致信法国议员反对这项快速通过的法律，同样担心它构成“对公民自由和民主原则的严重威胁”，并有可能进一步加剧执法中的种族差异。

人权观察组织在信中写道：“该提案为以保护大型活动为借口使用侵入性算法驱动的视频监控铺平了道路。”“在公共场所存在无针对性（通常称为无差别）算法视频监控，这可能会对基本的公民自由产生寒蝉效应。”

与此同时，其他人担心，这些所谓的临时新措施将不可避免地成为现状。监控法将于 2025 年正式失效，但立法者有机会延长其有效期（如果他们愿意的话）。扩大权力的支持者认为，它们是加强该国对潜在致命恐怖袭击的防御的必要工具。在过去二十年里，法国经历了六次以上重大袭击，包括 2015 年的一系列枪击事件，造成 130 人死亡。2015 年的事件导致法国宣布进入临时紧急状态，并最终延长了两年多。

“目前没有任何措施可以阻止这种‘临时’措施永久融入法国警察体系，”马哈茂迪说。“历史告诉我们，这种试验是走向常态化的滑坡。今年夏天，来自法国和世界各地的社区齐聚巴黎，我们不可能成为法国扩大人工智能监控计划的实验对象。”

法国加强大型户外开幕式安保

法国对今年奥运会安保的重视不仅限于​​视频监控。当局已将开幕式举办地塞纳河周边地区指定为“反恐警戒线”。7 月 18 日至 26 日期间，这段长约 3.7 英里的河段将加强安保。

据报道，在奥运会开幕前，大约 2 万名生活和工作在该区域内的法国居民将被迫接受背景调查，以确定他们是否与所谓的伊斯兰极端组织有任何关联。这些人将各自收到政府颁发的二维码，他们需要在赛事期间使用该二维码在该地区导航。据报道，在过去十年中，全副武装的警察和军队在巴黎随处可见，而这次的人数将是平时的十倍。据报道，当地执法部门将与数百名潜水炸弹专家、反恐部队和受过训练以击落潜在无人机威胁的特种部队一起工作。

多年来，奥运会一直是世界各国宣传和部署最新数字监控工具的试验场。中国曾在 2008 年北京奥运会期间使用人脸识别技术进行安检，最近一次冬奥会上也使用了人脸识别技术。负责监督 2014 年索契冬奥会的俄罗斯情报官员也同样监控了参赛选手和与会者的数字通信和互联网流量。在所有这些情况下，主办国都辩称，在前所未有的关注时期，超越常规监控行动的界限是确保安全的一种手段。人们有理由担心。奥运会曾多次成为暴力事件的源头。但即使直接感知到的威胁消退，主办国仍会继续使用新发现的监控能力，活动人士表示，这种做法最终会随着时间的推移损害公民自由。然而，法国是否会效仿这一做法还有待观察。

7 月 19 日 12:15 更新：添加了国际特赦组织人工智能与人权研究员兼顾问 Matt Mahmoudi 的补充评论。