人工智能认为膝盖 X 光可以判断你是否喝过啤酒和吃过油炸豆泥

一些人工智能模型正在努力学习一条古老的原则：“相关性不等于因果关系”。虽然这并不是放弃人工智能工具的理由，但最近的一项研究应该提醒程序员，即使是可靠的技术版本也容易出现怪异现象——比如声称膝盖 X 光检查可以证明某人喝了啤酒或吃了油炸豆泥。

人工智能模型的作用远不止生成（偶尔准确的）文本响应和（某种程度上）逼真的视频。真正制作精良的工具已经在帮助医学研究人员解析大量数据集，以发现新的突破，准确预测天气模式，并评估环境保护工作。但根据发表在《科学报告》杂志上的一项研究，算法“捷径学习”仍然存在一个问题，即生成的结果既高度准确，又具有误导性。

达特茅斯健康中心的研究人员最近利用美国国立卫生研究院骨关节炎计划提供的 25,000 多张膝盖 X 光片训练了医疗 AI 模型。然后，他们基本上是逆向而行，让深度学习程序找出预测荒谬特征的共同点，例如哪些膝盖有问题的人显然喝过啤酒或吃过油炸豆泥——正如研究作者所解释的那样，这显然是荒谬的。

他们写道：“这些模型并没有揭示出隐藏在我们膝盖内的有关豆类或啤酒的隐藏真相。”

但与此同时，该团队解释称，这些预测并非“纯属偶然”。其根本问题是所谓的算法捷径，即深度学习模型通过容易检测但仍然不相关或具有误导性的模式来寻找联系。

他们警告说：“走捷径很容易让人做出预测出奇准确但缺乏表面效度的模型。”

例如，算法识别的变量包括不相关的因素，如X射线机型号或设备地理位置的差异。

“这些模型可以看到人类无法看到的模式，但它们识别的模式并非都是有意义或可靠的，”达特茅斯健康学院骨科外科医生、骨科助理教授、研究资深作者彼得·席林 (Peter Schilling) 在 12 月 9 日的一份声明中补充道。“认识到这些风险对于防止误导性结论和确保科学完整性至关重要。”