纽约市将要求对人工智能招聘工具进行偏见审计

周三，纽约市在规范人工智能技术对该市就业招聘流程的影响方面迈出了一小步。这类技术被称为自动化就业决策工具 (AEDT)，通常使用人工智能或算法为求职者或晋升者自动排名或评分。纽约市的《自动化就业决策工具法》（也称为地方法律 144）现在要求，任何使用此类技术的雇主都必须让第三方对这些工具进行故意或无意偏见的审计。该法律目前有效，并将于 2023 年 7 月 5 日开始执行，此后不合规的企业可能面临每天每件工具 500 美元起至 1,500 美元的罚款。

[相关：人工智能广阔世界的简单指南。]

这是招聘实践和人工智能领域的第一部重要立法。根据 Zippia 的数据，65% 的招聘人员在招聘过程中以某种形式使用人工智能，例如根据特定资格参数筛选一份职位的数千份申请、搜索社交媒体，甚至在视频面试期间分析候选人的面部表情或肢体语言。

AEDT 经常被宣传为一种管理大量申请人的招聘流程的方法。“在互联网时代，申请工作变得容易得多。而且有工具可以帮助求职者简化这一流程。比如‘给我们你的简历，我们会申请 400 个职位’，”咨询公司 Orcaa 的首席执行官 Cathy O'Neil 告诉 NBC 新闻。“他们收到的申请实在太多了。他们必须以某种方式筛选出名单，所以这些算法可以帮他们完成这项工作。”

但是，人工智能远不能公正地评判潜在候选人——人工智能数据集和技术往往会延续人类的偏见，例如种族主义、性别歧视和年龄歧视。

批评者认为，法律还不够。具体来说，需要进行审计的一项条件是，人工智能“实质性地协助或取代自由裁量决策”。民主与技术中心主席亚历山德拉·吉文斯 (Alexandra Givens) 担心，这可能会被解读为，在这些情况下，人工智能是“招聘决策中唯一或主要的因素，或被用来推翻人类的决定”，而不是流程的一部分，她在 5 月告诉《纽约时报》 。

她补充道：“我最担心的是，这将成为全国性的模板，而我们应该对政策制定者提出更多要求。”目前，新泽西州、马里兰州、伊利诺伊州和加利福尼亚州正在考虑类似的法律。

纽约大学计算机科学教授、纽约自动决策系统工作组创始成员朱莉娅·斯托亚诺维奇向 NBC 指出，所需的审计也没有调查基于年龄或残疾的歧视。

[PopSci+ 相关内容：人工智能时代的 4 个隐私问题。]

招聘中的偏见，无论是通过人类还是人工智能，几十年来一直是一个突出的问题——多年来，这个问题往往没有得到太大的改善。这项法律是否会有所作为还有待观察。

电子隐私信息中心的本·温特斯告诉Quartz ：“我并不指望这项法律能给我们提供任何信息，或者真正让人们增加在招聘过程中的公平性。”