欧盟强有力的人工智能法案已经出台。但为时已晚吗？

上周，欧盟官员经过 36 小时的激烈辩论，最终通过了首部全面的人工智能安全和透明度框架，即《人工智能法案》，创造了技术政策历史。该法案的支持者和人工智能安全专家告诉PopSci ，他们认为新指南是全球同类指南中最强有力的，可以为其他国家树立榜样。

这些具有法律约束力的框架为 OpenAI 和其他生成式 AI 开发者设定了至关重要的新透明度要求。它还划定了几条红线，禁止一些最具争议的 AI 用途，从实时面部识别扫描和所谓的情绪识别到预测性警务技术。但暗地里可能正在酝酿一个问题。即使该法案获得通过，欧洲的 AI 警察最早也要到 2025 年才能真正执行任何这些规则。到那时，谁也不知道不断发展的 AI 格局会是什么样子。

什么是欧盟人工智能法案？

欧盟的《人工智能法案》将人工智能工具和应用分为四个不同的“风险类别”，风险最高的类别将受到最严格的监管审查。被视为高风险的人工智能系统包括自动驾驶汽车、管理关键基础设施的工具、医疗设备和生物识别系统等，这些系统需要接受基本权利影响评估，遵守严格的新透明度要求，并且必须在欧盟公共数据库中注册。负责这些系统的公司也将受到监控和记录保存，以确保欧盟监管机构所涉工具不会对安全或基本人权构成威胁。

值得注意的是，欧盟仍需对该法案进行投票，最终文本尚未公布。预计该公使馆的最终投票将于 2024 年初进行。

《人工智能法案》更进一步，彻底禁止其他用例。特别是，该框架禁止从互联网或闭路电视录像中大量、无针对性地抓取人脸图像以创建生物识别数据库。这可能会影响 Clearview AI 和 PimEyes 等知名面部识别初创公司，据报道，这两家公司从公共互联网上抓取了数十亿张人脸扫描数据。Clearview AI 总法律顾问 Jack Mulcaire 告诉PopSci ，该公司不在欧盟运营或提供产品。PimEyes 没有立即回应我们的置评请求。

情绪识别试图利用生物特征扫描来检测个人的感受或精神状态，这种技术存在争议，将在工作场所和学校被禁止。其他“操纵人类行为以规避其自由意志”的人工智能系统也同样被禁止。基于人工智能的“社交评分”系统，比如那些在中国大陆臭名昭著的系统，也属于被禁止的类别。

被发现规避这些规则或继续使用被禁应用程序的科技公司可能会被处以罚款，罚款金额为总收入的 1.5% 至 7%，具体取决于违规行为和公司规模。这一惩罚制度赋予了欧盟人工智能法案以约束力，也从根本上将其与美国拜登政府最近做出的其他自愿透明度和道德承诺区分开来。拜登的白宫最近还签署了首份人工智能行政命令，阐述了他对未来美国人工智能监管的愿景。

在不久的将来，运营“通用人工智能系统”的 OpenAI 和谷歌等美国大型科技公司将被要求向欧盟官员通报他们训练模型的最新情况，报告他们用于训练这些模型的数据类型摘要，并制定政策承认他们同意遵守欧盟版权法。被视为构成“系统性风险”的通用模型（彭博社估计目前仅包括 OpenAI 的 GPT）将受到更严格的规则约束。这些规则可能包括强制模型制造商报告工具的能源使用情况和网络安全合规性，以及要求他们进行红队演习以识别并可能减轻系统性风险的迹象。

生成式人工智能模型和能够创建具有潜在误导性的“深度伪造”媒体的作品将被要求明确标明这些作品是由人工智能生成的。其他美国人工智能公司如果创建的工具属于《人工智能法案》中“不可接受”风险类别，则在该法案正式生效后，它们很可能无法继续在欧盟运营。

[相关： “白宫应对人工智能的计划正如你所料” ]

AI Now Institute 执行董事 Amba Kak 对《人工智能法案》的可执行性给予了积极评价，他告诉 PopSci，这是“今年以来大量软弱的自愿提案中的一个重要反例”。Kak 表示，禁止特别有威胁性的人工智能使用的红线以及新的透明度和勤勉要求是值得欢迎的“朝着正确方向迈出的一步”。

尽管欧盟基于风险的方法的支持者表示，这有助于避免将更平凡的人工智能用例置于严厉的监管之下，但一些欧洲隐私专家担心，这种结构过于不重视基本人权，并且有损于过去欧盟立法的做法，如 2018 年《通用数据保护条例》（GDPR）和《欧洲联盟基本人权宪章》（CFREU）。

“基于风险的方法与欧盟其他人权框架存在矛盾，”欧洲数字权利高级政策顾问 Ella Jakubowska 在电话采访中告诉PopSci 。“从一开始就提出的整个框架都是有缺陷的。”

雅库波夫斯卡警告称，《人工智能法案》基于风险的方法可能无法始终全面、清晰地展示某些看似低风险的人工智能工具未来可能如何使用。雅库波夫斯卡表示，像她这样的权利倡导者更希望对所有人工智能系统开发者进行强制性风险评估。

“总的来说，这非常令人失望，”她补充道。

数字权利组织 AccessNow 的高级政策分析师 Daniel Leufer 也对基于风险的方法表示担忧，他认为这种方法的设计部分是为了向科技行业团体和执法部门做出让步。Leufer 表示，AccessNow 和其他数字权利组织不得不敦促欧盟成员国同意纳入“不可接受的”风险类别，但一些国家最初拒绝承认这一点。AI Now 研究所执行董事 Kak 继续表示，《人工智能法案》本可以做更多工作来澄清有关执法和国家安全领域人工智能应用的法规。

前路未卜

上周达成的框架是欧盟成员国、科技公司和民间社会组织多年来反复辩论的结果。《人工智能法案》的初稿可以追溯到 2021 年，几个月后 OpenAI 的 ChatGPT 和 DALL-E 生成式人工智能工具就让数百万人着迷。据报道，该法案的框架甚至可以追溯到更早的 2018 年。

从那时起，情况发生了很大变化。即使是最有先见之明的人工智能专家也难以想象，数百名顶尖技术专家和商界领袖会疯狂地在充满激情的信件上签名，敦促暂停使用人工智能技术，以保护人类。同样，很少有人能预测到，目前针对生成式人工智能制造商的版权诉讼浪潮会对他们大规模数据抓取技术的合法性提出质疑，或者大量人工智能生成的点击诱饵会充斥网络。

同样，我们也无法预测 2025 年人工智能的前景，而 2025 年是欧盟最早可以真正执行其严格的新法规的年份。Axios 指出，欧盟官员将敦促企业在此期间同意这些规则，但必须自愿。

更新时间：1/4/24 2:13PM：本文早期版本称 Amba Kak 对欧盟人工智能法案给予了积极评价。本文经过编辑，澄清她特别赞赏该法案的可执行性。