我们是否应该利用大数据来惩罚犯罪行为?

我们是否应该利用大数据来惩罚犯罪行为?

约翰·安德顿是华盛顿特区特别警察部队的负责人。这个特殊的早晨,他冲进郊区的一所房子,就在霍华德·马克斯怒不可遏,正要用剪刀刺入妻子的躯干之前,他发现妻子和另一个男人躺在床上。对安德顿来说,这只是防止死罪的又一天。“根据哥伦比亚特区预防犯罪部门的授权,”他背诵道,“我将逮捕你,因为你即将谋杀萨拉·马克斯,这件事将于今天发生……”

其他警察开始制服马克斯,他尖叫道:“我什么也没做!”电影《少数派报告》的开场描绘了一个预测似乎非常准确的社会,警察在犯罪前就逮捕了犯罪者。人们被监禁不是因为他们做了什么,而是因为他们被预见到会做什么,即使他们实际上从未犯罪。这部电影将这种有先见之明的执法归功于三位千里眼的预言,而不是数据分析。但《少数派报告》描绘的令人不安的未来是不受约束的大数据分析可能带来的,其中对罪责的判断是基于对未来行为的个人预测。

当然,大数据有望为社会带来无数好处。它将成为改善从医疗保健到教育等各个领域的基石。我们将依靠大数据应对全球挑战,无论是气候变化还是贫困。更不用说企业如何利用大数据,以及大数据为我们的经济带来的收益。大数据带来的好处与数据集一样巨大。然而,我们也需要意识到大数据的阴暗面。

我们已经看到《少数派报告》式预测的雏形正在惩罚人们。我们已经看到《少数派报告》式预测的雏形正在惩罚人们。美国半数以上的州的假释委员会使用基于数据分析的预测作为决定是否释放某人或将其继续监禁的因素。美国越来越多的地方——从洛杉矶的辖区到弗吉尼亚州里士满等城市——采用“预测性警务”:使用大数据分析来选择对哪些街道、群体和个人进行额外审查,仅仅是因为算法指出他们更有可能犯罪。

但它肯定不会止步于此。这些系统将通过预测可能犯罪的人(最终精确到个人层面)来预防犯罪。这表明大数据的用途是新颖的:预防犯罪。

美国国土安全部下属的一项名为 FAST(未来属性筛查技术)的研究项目试图通过监测个人的生命体征、肢体语言和其他生理模式来识别潜在的恐怖分子。该项目的理念是,通过监视人们的行为可以发现他们伤害他人的意图。国土安全部称,在测试中,该系统的准确率为 70%。(这意味着什么尚不清楚;研究对象是否被指示假装成恐怖分子,看看他们的“恶意”是否被发现?)虽然这些系统似乎还处于萌芽阶段,但关键是执法部门非常重视它们。

阻止犯罪发生听起来是个诱人的前景。在犯罪发生之前阻止犯罪不是比事后惩罚犯罪者好得多吗?预防犯罪不仅对可能受害的人有益,而且对整个社会也有益吗?

但这是一条危险的道路。如果我们通过大数据预测谁可能犯下未来的罪行,我们可能不满足于仅仅阻止犯罪发生;我们可能还想惩罚可能的犯罪者。这是合乎逻辑的。如果我们只是介入并干预以阻止非法行为的发生,假定的犯罪者可能会再次尝试而不受惩罚。相反,通过使用大数据让他对他(未来的)行为负责,我们可能会阻止他和其他人。

指控某人未来可能的行为会破坏正义的根基。如今对可能行为的预测(比如保险费或信用评分)通常依赖于一些基于当前问题的心理模型(即先前的健康问题或贷款偿还历史)的因素。基本上,这就是分析——根据个人与特定群体共有的特征来决定如何对待他们。有了大数据,我们希望识别特定的个人而不是群体;这使我们摆脱了分析的缺陷,即不会让每个预测的嫌疑人都成为因关联而有罪的案例。

大数据的前景是,我们可以做我们一直在做的事情——分析——但要做得更好,减少歧视,更加个性化。如果目的只是为了防止不必要的行为,这听起来可以接受。但如果我们用大数据预测来决定某人是否有罪,是否应该为尚未发生的行为受到惩罚,那就变得非常危险了。

根据倾向进行惩罚的想法本身就令人作呕。指控某人未来可能的行为就是破坏正义的根基:一个人必须先做过某事,我们才能追究他的责任。毕竟,想坏事并不违法,做坏事才是违法的。这也否定了无罪推定的理念,而无罪推定是我们的法律制度和公平感所基于的原则。如果我们让人们为预测的未来行为负责,而这些行为可能永远不会发生,我们也否认了人类具有道德选择的能力。

在大数据时代,我们必须拓展对正义的理解。这里重要的一点不仅仅是治安问题。危险远比刑事司法更为广泛;它涵盖社会的所有领域,所有人类判断的例子,在这些例子中,大数据预测被用来决定人们是否应对未来的行为负责。这些包括从公司决定解雇员工,到医生拒绝为患者做手术,再到配偶提出离婚等一切。

或许,有了这样的系统,社会会更安全、更高效,但人类本质的一项基本特质——选择行动并为其负责的能力——将被摧毁。大数据将成为集体化人类选择并抛弃社会自由意志的工具。即使一个人没有像电影《少数派报告》中那样被扔进时髦的夜总会式监狱,其影响可能仍然看起来像是一种惩罚。一名因有偷窃倾向而接受社会工作者上门探访的青少年将在他人眼中感到耻辱——包括他自己。

在大数据时代,我们必须扩展对正义的理解,要求它包括对人类行为的保障,就像我们目前保护程序公平一样。如果没有这样的保障,正义的理念可能会被彻底破坏。

通过保证人类的自主权,我们确保政府对我们行为的判断是基于实际行动,而不仅仅是大数据分析。因此,政府必须只对我们过去的行为负责,而不是对未来行为的统计预测。当国家判断过去的行为时,应该防止它仅仅依赖大数据。如果大数据活动对许多人造成重大伤害,公司应该公开审查其大数据活动。

大数据治理的一个基本支柱必须是保证我们将继续根据人们的个人责任和实际行为来评判他们,而不是通过“客观地”分析数据来确定他们是否可能是犯罪者。只有这样,我们才会把他们当作人来对待:把他们当作有自由选择自己行为并有权接受自己行为评判的人。

本文摘自《大数据:一场将改变我们生活、工作和思维方式的革命》(霍顿·米夫林·哈考特出版社,2013 年),经授权转载。维克托·迈尔-舍恩伯格是英国牛津互联网研究所的互联网治理与监管教授。肯尼斯·库基尔是《经济学人》的数据编辑

<<:  博客 Liveblog:聆听咖啡店的假噪音以提高生产力

>>:  开普勒寻找太阳系外行星:最伟大的发现

推荐阅读

美国宇航局火星任务中的 11 张令人大开眼界的图像

去年夏天,NASA 的“毅力号”探测器搭载在 Atlas V 火箭的鼻锥上进入太空,本周成功着陆火星...

没有性行为?没问题。这些微小的无性动物窃取基因来制造自己的药物。

蛭形轮虫是一种古老的、无性的、奇怪的生物。这种微小的淡水动物似乎在无性的情况下存活了下来,并因此获得...

如何在家煮咖啡

要冲泡一杯美味的咖啡,您需要掌握一些变量:咖啡与水的比例、冲泡时间、水温和咖啡豆的研磨度。所有这些因...

《中二病也谈恋爱!Koi Lite》的魅力与评价:轻松的故事和人物塑造

《中二病也要谈恋爱!Love Lite》重拾青春的光辉《中二病也想谈恋爱!Koi Lite》是一部六...

观看狂野的“失败喷发”太阳耀斑

正如预测的那样,太阳正以惊人的方式向“太阳活动高峰”迈进。6 月 3 日,美国宇航局的太阳动力学观测...

土星的快速自转使其白天出现极光

在地球上,迷人的极光通常只能在夜间看到,但在土星上,它们可以在正午时分出现。今天发表在《自然天文学》...

古达古达教团:超出预期的有趣而深刻的故事

古达古达令 - 古达古达令 - 综合评价推荐概述《咕哒咕哒命令》是改编自TYPE-MOON和Kens...

石油不会永远存在,因此迪拜大力投资科学技术

漫画般的天际线。Chris Ratcliffe/Bloomberg via Getty Images...

在为节日装饰之前,请查看 Govee 户外灯的黑色星期五优惠

装饰灯营造出绝佳的节日氛围,但安装它们却是最麻烦的。Govee 生产一系列永久性户外节日灯,可全年使...

宇宙可能是一个巨大的电子游戏,但它肯定不是吃豆人

伊隆·马斯克和其他著名的硅谷怪人可能认为我们生活在一个模拟世界中,但上周末在英国举行的地平说大会上发...

将“自修复”罗马混凝土引入美国海岸线的项目

古罗马人是混凝土大师,他们将沙子、水和岩石混合在一起,打造出经久不衰的奇迹。他们用混凝土建造的桥梁、...

“肯塔基肉雨”期间到底发生了什么?

本周你学到的最奇怪的事情是什么?好吧,不管是什么,我们保证如果你听 PopSci 的热门播客,你会得...

战国妖狐千魔契约篇 #2 - 深度评论与推荐点

战国妖狐 Senma Konton Arc #2 - 战国妖狐 - 全面评论和推荐概述战国妖狐:千鬼...

小行星本身并不是恐龙的灭绝者,地球也发挥了作用。

大约 6600 万年前,一颗直径 7.5 英里(12 公里)的小行星撞击了现今墨西哥的尤卡坦半岛。撞...

失败博物馆挑战我们对错误的看法

在《我犯了一个大错误》系列中,PopSci 探索了各种不幸和误解,包括它们的耻辱和荣耀。我第一次尝试...