美国司法部正在调查一款可能伤害宾夕法尼亚州家庭的人工智能工具

美国司法部正在调查一款可能伤害宾夕法尼亚州家庭的人工智能工具

过去七年来,阿勒格尼县人类服务部工作人员经常使用人工智能预测风险建模程序来帮助评估儿童被安置在大匹兹堡地区寄养系统的风险因素。然而,近几个月来,阿勒格尼家庭筛查工具 (AFST) 背后的算法因其不透明的设计而受到越来越多的审查,考虑到预测人工智能工具长期以来的种族、阶级和性别偏见。

美联社此前对阿勒格尼家庭筛查工具算法的深入研究显示,某些数据点可能被解读为种族群体的替代描述。但现在看来,AFST 也可能影响残疾人社区内的家庭以及有精神健康问题史的家庭。司法部正在关注此事。

[相关:白宫新出台的《人工智能权利法案》计划解决种族主义和偏见算法问题。]

根据美联社今天发布的新报告,司法部民权司已收到多起针对 AFST 的正式投诉,并援引了美联社此前对其潜在问题的调查。司法部匿名消息人士称,官员们担心 AFST 过度依赖可能存在偏差的历史数据,可能会“使过去的不平等现象自动化”,尤其是对残疾人和精神健康问题人士的长期偏见。

美联社解释说,阿勒格尼家庭筛查工具采用了一种“开创性的”人工智能程序,旨在帮助大匹兹堡地区劳累过度的社会工作者确定哪些家庭需要进一步调查儿童福利索赔。更具体地说,该工具旨在帮助预测儿童在家庭环境调查后的两年内被寄养的潜在风险。

据报道,AFST 的黑箱设计考虑了许多案例因素,包括“个人数据和出生、医疗补助、药物滥用、心理健康、监狱和缓刑记录以及其他政府数据集”,以确定是否需要进一步调查疏忽行为。尽管人类社会服务工作者最终会根据 AFST 算法结果决定是否跟进案件,但批评者认为,该计划可能存在的错误判断可能会影响员工的决定。

[相关:在犯罪学中使用生物学的背后有种族主义历史。]

阿勒格尼县人类服务部一位发言人告诉美联社,他们不知道司法部有任何投诉,也不愿意讨论有关该筛查工具的更多批评。

儿童保护服务系统长期以来一直受到广泛批评,批评内容包括其整体有效性以及黑人、残疾人、穷人和其他边缘化家庭所面临的不成比例的后果。AFST 的官方网站大量刊登第三方研究、报告和文章,证明该计划的可靠性和实用性。

<<:  DARPA 希望突破卫星飞行范围

>>:  没有人能够准确预测鸟类的去向,但这个数学模型可以接近

推荐阅读

中国海军在最新美国情报报告中名列前茅

2015 年 4 月,美国海军情报机构海军情报局 (ONI) 发布了有关中国海军的最新报告,题为《中...

《九2:恋人宣言》——透彻解析感人的爱情故事和人物深度

《九2:恋人宣言》——青春与爱情相交的世界《Nine 2:恋人宣言》是一部电视动画,改编自足立充的漫...

关于飞越第 55 届超级碗的轰炸机你需要知道的一切

本文已更新。最初于 2021 年 2 月 5 日发表。周日晚上,就在第五十一届超级碗比赛的国歌奏响之...

四个专业生存工具包中的 11 个必需品

这个故事最初刊登在《户外生活》杂志上。让 100 位户外运动爱好者列出野外生存工具包购物清单,你会得...

Argonavis:流星的伴奏——动人故事与音乐融合的全面回顾

阿尔戈纳维斯:电影 - 阿尔戈纳维斯:电影概述《Argonavis:Shooting Star Ob...

对 Teekyu 第七季未播出剧集的评价和印象

《铁拳第七季未播集》全方位评价推荐概述《Tekyu》是一部根据 Roots 和 Piyo 创作的人气...

虚拟现实耳机即将问世,我愿意承担风险

互联网最不需要的就是又有一位科技记者用诗意的方式描述他们对虚拟现实的体验。无论文章如何,所有与我争论...

《星球大战:幻觉》评论——动画与科幻融合产生的新吸引力

《星球大战:幻象》——融合日本动画的独特跨界作品《星球大战:幻视》是一部改编自乔治·卢卡斯的《星球大...

水瓶座时代传奇 II ~别忘了我……~的魅力与评价:令人难忘的故事和人物

水瓶座时代传奇 II 的全面评论和推荐 〜别忘了我……〜概述《水瓶座时代传说 II ~别忘了我……~...

重温《灼眼的夏娜3》的情感与刺激:最终章的魅力​​究竟在哪里?

灼眼的夏娜3最终章——最终章的刺激与魅力《灼眼的夏娜III Final》是一部电视动画,改编自高桥弥...

为什么彼得·蒂尔会付钱让学生辍学

四年前,亿万富翁企业家彼得·泰尔 (Peter Thiel) 宣布成立泰尔奖学金 (Thiel Fe...

让我们永远摆脱 16:9 笔记本电脑

我评测桌上最新推出的笔记本电脑(这只是我的普通办公桌,我没有两张桌子)是 Chromebook Pi...

在网络星期一购买 Traeger 烤架可获赠价值 165 美元的免费配件

人们经常将烧烤与炎热的夏日联系在一起。冬季烧烤则提供了更神奇的东西。冷空气带着烟味,这很奇妙。当雪花...

外星人猎人和夜钓者都共用一个装备

云层中的光亮是无人机、外星人,还是一只精通技术的鸽子?当你用肉眼凝视黑夜时,很难分辨,而且手机也好不...

电影《多啦 A 梦:大雄的新宇宙冒险》评论:重新评价感人的宇宙冒险

哆啦 A 梦电影:《大雄与新宇宙先驱》——感人的宇宙探险冒险故事■ 公共信息电影《多啦 A 梦:大雄...