微软为何放弃其人工智能面部分析技术

微软周二宣布，将根据其新的负责任 AI 标准从 Azure AI 服务中删除某些面部分析工具。微软首席负责任 AI 官 Natasha Crampton 在声明中解释说，自动“推断情绪状态和身份属性（如性别、年龄、微笑、面部毛发、头发和化妆）”的功能将于本周停止向新用户提供，并将于今年逐步淘汰现有用户。

多年来，人工智能面部识别一直受到电子前沿基金会 (EFF) 等组织的批评。虽然执法部门的使用往往最令人担忧，但研究表明，这些工具在识别性别等属性方面根本不准确——尤其是在多元化和少数群体中。例如，麻省理工学院媒体实验室发现，IBM、Face++ 和微软的面部识别对深色皮肤面部和女性面部的性别分类不成比例。表现最差的工具对深色皮肤女性面部的性别分类错误率为 34.7%，而对浅色皮肤男性面部的性别分类错误率仅为 0% 到 0.8%。

此外，微软在新闻稿中承认，面部表情和情绪并非跨文化通用。克朗普顿写道：“公司内外的专家都强调，对‘情绪’的定义缺乏科学共识，推论如何在用例、地区和人口统计数据之间推广存在挑战，以及围绕这种能力的隐私担忧加剧。”

这些都是微软刚刚向公众发布的《负责任的人工智能标准 V2》的一部分。该文件试图为其产品开发团队制定指导原则（分为问责制、透明度、公平性、可靠性和安全性、隐私性和安全性以及包容性），同时认识到社会法律和规范尚未赶上人工智能带来的独特风险和挑战。（与此同时，欧盟似乎将以一贯严厉的方式成为第一个为如何在各种环境中使用人工智能制定严格规定的组织。）

当然，微软并不是唯一一家因其面部识别程序而受到批评的公司（目前它还没有向执法部门提供面部识别服务）。Facebook 去年年底停止了其面部识别功能，该功能可以识别并建议好友在照片中“标记”，此前该功能已经使用了十多年，并遭到两次巨额罚款和大量批评。

Zoom 目前还因其人工智能情绪和参与度识别功能而受到批评。上个月，超过 25 个人权组织签署了一封信，呼吁 Zoom 撤下这些功能，因为它们具有操纵性、歧视性和伪科学性。根据 Zoom 的帮助文档，Zoom IQ for Sales 将跟踪“说话-倾听比率”、“说话速度”、“填充词”、“最长的说辞”、“耐心”、“引人入胜的问题”等指标，并为每个呼叫者提供情绪和参与度分析。Zoom 没有回应PopSci的置评请求，也没有公开回应这封信。

对于微软来说，值得注意的是，其面部识别工具不会完全消失。它仍将向 Uber 等公司提供这些工具，以验证注册服务的人是否具有有效的身份证件。然而，它正在吸取实施“适当使用控制”的经验教训，使用其自定义神经语音（允许创建听起来与原始声音几乎相同的合成声音）来确保这些工具不会被滥用。它计划将其使用限制在托管客户和合作伙伴，将允许的用例缩小到“预定义的可接受用例”，并利用技术控制来确保一切合法合规。

这是否足以抵消人们对面部识别工具的普遍批评和合理担忧还有待观察。虽然这些工具可以用于自动模糊安全摄像头镜头中的面部等目的，但它们也极易被滥用。除了对私营企业的担忧之外，政府和联邦机构在面部识别方面越权的可能性几乎是无限的。