短片《屠杀机器人》描绘了在不久的将来,成群的微型无人机会因为政治信仰而暗杀数千人。该片由学者和活动人士于 2017 年 11 月发布,警告先进人工智能 (AI) 的危险,并迅速走红,迄今已吸引超过 300 万次观看。它引发了关于自主武器未来的公开辩论,并给参加联合国常规武器公约的外交官们施加了压力。 但这种推测性的科幻故事不仅仅是为了吸引注意力。设计和制造先进技术的人可以利用故事来考虑他们的工作所带来的后果,并确保它能得到良好的利用。我们认为这种“科幻原型”或“设计小说”可以帮助防止人类偏见渗透到新技术中,从而进一步加深社会的偏见和不公正。 偏见会导致对某些类别(结果、人员或想法)的任意偏好。例如,有些人可能对聘用女性担任高管职位存在偏见,无论他们是否意识到这一点。 以记录此类偏见的数据为基础的技术最终可能会复制这一问题。例如,旨在为特定工作挑选最佳简历的招聘软件可能会被编程为寻找反映出对男性无意识偏见的特征。在这种情况下,算法最终会偏向男性简历。这不是理论上的——它确实发生在亚马逊身上。 设计算法而不考虑可能的负面影响,就好比医生“只写某种治疗方法的好处,而完全忽略其副作用,不管其有多严重”。 一些科技公司和研究人员正在努力解决这一问题。例如,谷歌制定了一套道德原则来指导其人工智能的发展。英国学术界发起了一项名为“不平等”的倡议,旨在鼓励在技术和使用方面更加公平公正。 问题在于,在公开场合,公司往往只对近期技术的潜在后果抱有积极的看法。例如,无人驾驶汽车通常被描述为解决我们从成本到安全等所有交通问题,而忽视了网络攻击风险的增加,或者它们可能会鼓励人们减少步行或骑自行车的事实。 数字技术(尤其是那些严重依赖晦涩算法的技术)的工作原理难以理解,这也使人们更难对问题有一个复杂而全面的看法。这种情况在令人安心的积极叙述与模糊的怀疑(即偏见在某种程度上根植于我们周围的技术)之间产生了一种张力。我们认为,通过设计小说讲故事可以发挥作用。 故事是思考可能性和复杂情况的自然方法,我们一生都在听故事。科幻小说可以帮助我们推测近未来技术对社会的影响,就像《屠宰机器人》一样。这甚至可以包括社会正义问题,比如某些群体(如难民和移民)可能被排除在数字创新之外。 揭示(可能的)未来设计小说为设计师、工程师和未来学家(以及其他人士)提供了一种新颖的方式,让他们从人类的角度思考技术的影响,并将其与未来的需求联系起来。通过逻辑和想象力的结合,设计小说可以揭示技术可能被采用和使用的各个方面,并引发对其未来影响的讨论。 例如,短篇小说《犯罪溯源》探讨了如果人工智能使用众包信息和犯罪数据库来预测谁可能犯下谋杀罪,会发生什么。研究人员发现,由于数据库中充满了少数族裔的人,这些人由于社会原因在统计上更有可能再次犯罪,因此“犯罪溯源”模型更有可能错误地怀疑少数族裔而不是白人。 你不必是一位才华横溢的作家,也不必拍出一部精彩的电影,就能创作设计小说。涉及卡片和故事板的头脑风暴活动已被用来开发设计小说,并帮助发展讲故事的过程。让使用这类工具的研讨会更加普遍,将使更多的工程师、企业家和政策制定者能够使用这种评估方法。而将最终成果公之于众将有助于在技术影响社会之前揭露潜在的偏见。 鼓励设计师以这种方式创造和分享更多故事,可以确保新技术背后的叙事不会只呈现出积极的画面,也不会呈现出极端消极或反乌托邦的画面。相反,人们将能够欣赏我们周围正在发生的事情的两个方面。 Alessio Malizia 是赫特福德大学的用户体验设计教授。 西尔维奥·卡塔 (Silvio Carta) 是赫特福德大学艺术与设计系主任兼设计研究小组主席。 本文最初发表于《对话》(The Conversation)。 |
<<: 本周我们了解到的最奇怪的事情:每天 10,000 步完全是编造的,而 Charmin 确切地知道你是怎么排便的
>>: 在温室气体占据主导地位之前,金星可能适宜居住并且与地球类似
贼鸥小天狼星:吸血鬼与猎人之间的激烈战斗《Sirius the Jaeger》是一部原创动画系列,于...
《永久鸟人来了!》的号召力与评价“Perman:鸟人已降临!!”是一部根据藤子·F·不二雄的热门漫...
Tragiman 的模因 - Tragiman 的模因概述《虎岛的妹妹》于 1999 年作为 OVA...
蝙蝠可能具有生态和经济价值,但它们也因传播疾病而臭名昭著,尤其是狂犬病,甚至可能是埃博拉病毒。然而,...
去年开业并获得好评的热门新餐厅让您爱不释手?如果您今年再去尝试不同的菜肴,却发现他们已经将原本就很高...
Tomodachi Kurukana 的详细评论和建议 - Tomodachi Kurukana概述...
《和妈妈一起玩吧!》的号召与评价- 儿童动画的新可能性“和妈妈一起玩吧!”是一部儿童动画系列,于2...
为什么要花那么多时间建造和调试模仿鸟类的机器人,而你可以直接……将机器人塞进死鸟体内?事情远没有那么...
美国邮政服务局因送货卡车而引发的争议决定将诉诸法庭。这场争议已经酝酿了数月:今年 2 月,一项购买 ...
菲斯克自称提供“世界上最可持续的电动汽车和先进的移动解决方案”。这家汽车制造商对其首款车型即将推出的...
地球上的一些鱼类以其巨大的力量和奇特的视力而闻名。对于身长不到一英寸的Danionella cere...
新设立的 1000 万美元奖金用于对 100 位百岁老人的基因组进行测序,这可能会产生迄今为止最快的...
幸好,关于 SOPA 和 PIPA 的所有喧嚣都起了作用,至少起了一点作用。否则,您可能看不到本周的...
《恐龙之谜》深入探究了“可怕蜥蜴”的秘密,以及让古生物学家彻夜难眠的所有问题。 “这就是你如何制造出...