算法并非生来平等

在我们周围，算法在无形中发挥作用。它们推荐音乐、展示新闻、发现癌症肿瘤，并使自动驾驶汽车成为现实。但人们信任它们吗？

皮尤研究中心去年的一项调查显示，事实并非如此。当被问及计算机程序是否总是会反映设计者的偏见时，58% 的受访者认为会。这一发现表明，计算机技术与受其影响的人之间存在严重的矛盾，计算机技术对人们生活的影响预计只会越来越大。

对任何特定技术的不信任都会阻碍其被接受和使用。一方面，对危险技术的合理不信任是一件好事。没有人反对消除使用会产生不良后果的不良算法，例如向患者提供过量辐射的 Therac-25 软件或导致 NASA 丢失火星气候探测器的错误单位计算。另一方面，人们对疫苗接种等安全技术的非理性恐惧本身就很危险。不信任技术的人不仅会错失个人利益，而且他们拒绝参与也会对其他人产生负面影响，并对社会产生整体不利影响。

因此，区分理性和非理性恐惧非常重要，不要助长后者，特别是如果你有能力影响公众舆论。不幸的是，这项皮尤民意调查，或者至少是调查结果的报道方式，把事情弄得一团糟。调查询问了受访者关于算法在四种不同情况下做出决策的情况：计算个人财务评分、评估犯罪风险以做出假释决定、筛选求职者的简历以及分析求职面试。主图的标题总结了调查结果：“大多数美国人认为计算机程序总是会反映人类的偏见；年轻人的观点更加分裂。”

这种说法的问题在于，它错误地将算法的一般概念与特定类型的算法等同起来。在所呈现的场景中使用的算法是机器学习的，这意味着它们本质上是黑匣子，其内部逻辑表示为没有明显含义的数字集合。这些机器学习算法的一个问题是，它们实际上是不可读的，人类无法理解。

相比之下，人类编写的算法是可读的；它们以其他人可以理解的语言编写。这包括用自然语言编写的描述（食谱、驾驶说明、游戏规则、家具组装说明等）以及用机器可以执行的编程语言编写的程序。

这两种算法在可读性和可理解性方面的差异对于判断算法的可信度至关重要。并不是说人类创造的算法总是正确的。事实恰恰相反：由于人类会犯错，他们的产品也是如此，而且算法和软件通常因包含错误而臭名昭著。但可读算法和不可读算法之间的一个关键区别是，前者可以有效地纠正，而后者则不可能。

如果一道菜太咸，你可以在菜谱中找到加盐的地方并减少用量，或者当驾驶指示将你带到错误的地方时，很容易识别出错误的转弯并纠正错误。对于不可读的算法，情况则完全不同。当我们观察到错误的行为时，我们无法在算法描述中确定导致该行为的特定位置并可以进行修复。机器学习算法的黑箱性质有效地防止了这种情况。改变机器学习算法错误行为的唯一方法是用新数据重新训练它，这可能会引入其他偏差。

数据偏差是算法的合理担忧，但仅限于基于不良数据的决策算法。在谈论算法时，特别是在指责和敲响警钟时，我们应该小心区分可读算法和不可读算法（即机器学习算法）。

回顾皮尤研究中心的民意调查，我们可以注意到它实际上也是一种算法，一种以不同人的答案作为输入的算法。需要明确的是，所采用的方法没有问题，人们被问及的情景也很重要，但报告结果的方式具有误导性，可以说是不负责任的。讽刺的是，它在选择示例情景时存在偏见，因此它正是它所谴责的现象的一个例子。幸运的是，由于皮尤民意调查是由人类创建的，我们可以识别出其中的缺陷并予以纠正。一个简单的解决办法是简单地更改标题，报告人们不信任机器学习算法。另一种可能性是提供一些非机器学习算法的示例，并将人们的回答也纳入调查中。

为了更准确地了解人们对算法的态度，也为了避免引起不必要的厌恶和虚假恐慌，任何评判算法的人都应该区分人类创造的算法和机器学习的结果。民意调查员、记者以及参与衡量和影响舆论的其他人都将从更好地理解算法的本质中受益。接受调查的人也是如此。

算法确实可能存在缺陷，但民意调查也同样存在缺陷。让我们努力避免这两种方式的偏见。

马丁·埃尔维格 (Martin Erwig) 是俄勒冈州立大学计算机科学系的特聘教授，也是《算法往事：故事如何解释计算》一书的作者。

本故事最初发表于《读者》杂志。