约翰·安德顿是华盛顿特区特别警察部队的负责人。这个特殊的早晨,他冲进郊区的一所房子,就在霍华德·马克斯怒不可遏,正要用剪刀刺入妻子的躯干之前,他发现妻子和另一个男人躺在床上。对安德顿来说,这只是防止死罪的又一天。“根据哥伦比亚特区预防犯罪部门的授权,”他背诵道,“我将逮捕你,因为你即将谋杀萨拉·马克斯,这件事将于今天发生……” 其他警察开始制服马克斯,他尖叫道:“我什么也没做!”电影《少数派报告》的开场描绘了一个预测似乎非常准确的社会,警察在犯罪前就逮捕了犯罪者。人们被监禁不是因为他们做了什么,而是因为他们被预见到会做什么,即使他们实际上从未犯罪。这部电影将这种有先见之明的执法归功于三位千里眼的预言,而不是数据分析。但《少数派报告》描绘的令人不安的未来是不受约束的大数据分析可能带来的,其中对罪责的判断是基于对未来行为的个人预测。 当然,大数据有望为社会带来无数好处。它将成为改善从医疗保健到教育等各个领域的基石。我们将依靠大数据应对全球挑战,无论是气候变化还是贫困。更不用说企业如何利用大数据,以及大数据为我们的经济带来的收益。大数据带来的好处与数据集一样巨大。然而,我们也需要意识到大数据的阴暗面。 我们已经看到《少数派报告》式预测的雏形正在惩罚人们。我们已经看到《少数派报告》式预测的雏形正在惩罚人们。美国半数以上的州的假释委员会使用基于数据分析的预测作为决定是否释放某人或将其继续监禁的因素。美国越来越多的地方——从洛杉矶的辖区到弗吉尼亚州里士满等城市——采用“预测性警务”:使用大数据分析来选择对哪些街道、群体和个人进行额外审查,仅仅是因为算法指出他们更有可能犯罪。 但它肯定不会止步于此。这些系统将通过预测可能犯罪的人(最终精确到个人层面)来预防犯罪。这表明大数据的用途是新颖的:预防犯罪。 美国国土安全部下属的一项名为 FAST(未来属性筛查技术)的研究项目试图通过监测个人的生命体征、肢体语言和其他生理模式来识别潜在的恐怖分子。该项目的理念是,通过监视人们的行为可以发现他们伤害他人的意图。国土安全部称,在测试中,该系统的准确率为 70%。(这意味着什么尚不清楚;研究对象是否被指示假装成恐怖分子,看看他们的“恶意”是否被发现?)虽然这些系统似乎还处于萌芽阶段,但关键是执法部门非常重视它们。 阻止犯罪发生听起来是个诱人的前景。在犯罪发生之前阻止犯罪不是比事后惩罚犯罪者好得多吗?预防犯罪不仅对可能受害的人有益,而且对整个社会也有益吗? 但这是一条危险的道路。如果我们通过大数据预测谁可能犯下未来的罪行,我们可能不满足于仅仅阻止犯罪发生;我们可能还想惩罚可能的犯罪者。这是合乎逻辑的。如果我们只是介入并干预以阻止非法行为的发生,假定的犯罪者可能会再次尝试而不受惩罚。相反,通过使用大数据让他对他(未来的)行为负责,我们可能会阻止他和其他人。 指控某人未来可能的行为会破坏正义的根基。如今对可能行为的预测(比如保险费或信用评分)通常依赖于一些基于当前问题的心理模型(即先前的健康问题或贷款偿还历史)的因素。基本上,这就是分析——根据个人与特定群体共有的特征来决定如何对待他们。有了大数据,我们希望识别特定的个人而不是群体;这使我们摆脱了分析的缺陷,即不会让每个预测的嫌疑人都成为因关联而有罪的案例。 大数据的前景是,我们可以做我们一直在做的事情——分析——但要做得更好,减少歧视,更加个性化。如果目的只是为了防止不必要的行为,这听起来可以接受。但如果我们用大数据预测来决定某人是否有罪,是否应该为尚未发生的行为受到惩罚,那就变得非常危险了。 根据倾向进行惩罚的想法本身就令人作呕。指控某人未来可能的行为就是破坏正义的根基:一个人必须先做过某事,我们才能追究他的责任。毕竟,想坏事并不违法,做坏事才是违法的。这也否定了无罪推定的理念,而无罪推定是我们的法律制度和公平感所基于的原则。如果我们让人们为预测的未来行为负责,而这些行为可能永远不会发生,我们也否认了人类具有道德选择的能力。 在大数据时代,我们必须拓展对正义的理解。这里重要的一点不仅仅是治安问题。危险远比刑事司法更为广泛;它涵盖社会的所有领域,所有人类判断的例子,在这些例子中,大数据预测被用来决定人们是否应对未来的行为负责。这些包括从公司决定解雇员工,到医生拒绝为患者做手术,再到配偶提出离婚等一切。 或许,有了这样的系统,社会会更安全、更高效,但人类本质的一项基本特质——选择行动并为其负责的能力——将被摧毁。大数据将成为集体化人类选择并抛弃社会自由意志的工具。即使一个人没有像电影《少数派报告》中那样被扔进时髦的夜总会式监狱,其影响可能仍然看起来像是一种惩罚。一名因有偷窃倾向而接受社会工作者上门探访的青少年将在他人眼中感到耻辱——包括他自己。 在大数据时代,我们必须扩展对正义的理解,要求它包括对人类行为的保障,就像我们目前保护程序公平一样。如果没有这样的保障,正义的理念可能会被彻底破坏。 通过保证人类的自主权,我们确保政府对我们行为的判断是基于实际行动,而不仅仅是大数据分析。因此,政府必须只对我们过去的行为负责,而不是对未来行为的统计预测。当国家判断过去的行为时,应该防止它仅仅依赖大数据。如果大数据活动对许多人造成重大伤害,公司应该公开审查其大数据活动。 大数据治理的一个基本支柱必须是保证我们将继续根据人们的个人责任和实际行为来评判他们,而不是通过“客观地”分析数据来确定他们是否可能是犯罪者。只有这样,我们才会把他们当作人来对待:把他们当作有自由选择自己行为并有权接受自己行为评判的人。 本文摘自《大数据:一场将改变我们生活、工作和思维方式的革命》(霍顿·米夫林·哈考特出版社,2013 年),经授权转载。维克托·迈尔-舍恩伯格是英国牛津互联网研究所的互联网治理与监管教授。肯尼斯·库基尔是《经济学人》的数据编辑 |
<<: 博客 Liveblog:聆听咖啡店的假噪音以提高生产力
“这意味着我爱你”——深入挖掘每个人歌曲的吸引力和情感《这意味着我爱你》是一部于2019年4月在NH...
查尔斯·达尔文现在可能已经家喻户晓,但我们并不总是有自然选择理论。1859 年 11 月 24 日,...
用火箭将卫星送入轨道需要花费大量资金——具体来说,至少需要 5000 万美元。虽然这极大地限制了谁可...
弹涂鱼外表奇特,面容怪异,背景故事引人入胜。这种鱼其实是两栖动物,进化出了确保其在水中和陆地上都能生...
到了吃零食的时间,这种名为Oikopleura dioica 的微型海洋生物就会变得恶心起来。这种滤...
稻荷神社 稲荷神社 恋キャン 伊吕波。 - 青春与神话相交的京都故事《稻荷魔镜恋色波》是 2014 ...
“葛饰区龟有公园警察署”的诉求和评论《KochiKame》(以下简称“Kochikame”)是秋元...
摔跤手军团〈银河版〉圣战士罗宾 Jr. - 评论和详细信息概述“摔跤手军团(银河版)圣斗士罗宾Jr。...
《Overlord IV》——震撼黑暗奇幻的全新篇章《OVERLORD IV》是改编自丸山くにぎるな...
本文最初刊登于《飞行杂志》。 2016 年 7 月,美国空军参谋长戴维·戈德费恩将军和时任国防部长黛...
电影《Kirakira☆光之美少女 A La Mode:Crisp!千层酥的回忆!》的综合评论与推荐...
一种新的声波技术可以在短短四分钟内帮助治疗一种名为胶质母细胞瘤的致命脑癌。这项突破性报告于 5 月 ...
心灵恐怖报告 牛百太郎 - Shinrei Kyofu Report 牛百太郎概述《超自然恐怖报告:...
人类进化是为了互相伤害。我们并不总是这样,而且我们可能也不必总是这样。为了了解人类与其他哺乳动物的差...
感恩节可能是一年中最紧张的时刻。所以让我们转向科学。这些技巧将帮助您在烹饪完美大餐、招待客人和避免去...