学区使用 ChatGPT 帮助禁止图书馆书籍

据PopSci了解，在全国范围内掀起图书禁令和审查运动的背景下，爱荷华州的教育工作者正在求助于 ChatGPT 来帮助决定哪些书籍应该从学校图书馆书架上移除，以合法地遵守最近共和党支持的州立法。

根据美国笔会发现的爱荷华州报纸《公报》 8 月 11 日的一篇文章，梅森城社区学区在即将到来的 2023-24 学年之前，最近从其藏书中移除了 19 本书籍。这项禁令旨在遵守一项新法律，该法律要求爱荷华州学校图书馆目录既“适合年龄”，又不能有“性行为的描述或视觉描绘”。梅森城课程和教学助理总监布里奇特·埃克斯曼上周在接受《公报》采​​访时表示，“阅读每一本书并根据这些新要求进行筛选根本不可行。”

[相关：电台主持人以涉嫌诽谤为由起诉 ChatGPT 开发商。]

“坦白说，我们有更重要的事情要做，而不是花很多时间试图弄清楚如何保护孩子免受书籍的侵害，”埃克斯曼通过电子邮件告诉PopSci 。“同时，我们确实有遵守法律的法律和道德义务。我们的目标是真正实现一个可辩护的过程。”

据《公报》报道，最终的策略包括编制一份常见质疑书籍的总清单，然后利用之前未命名的“人工智能软件”对每本书进行文本分析。随后，被标记的书籍从梅森城 7-12 年级学校图书馆藏书中移除，并“存放在管理中心”，教育工作者“等待进一步的指导或澄清”。这些书名包括爱丽丝·沃克的《紫色》 、玛格丽特·阿特伍德的《使女的故事》 、托妮·莫里森的《宠儿》和巴兹·比辛格的《胜利之光》 。

“我们相信，这一流程将确保法律精神在梅森城得到贯彻，”埃克斯曼当时表示。当被要求澄清梅森城管理人员使用什么软件来帮助他们对涉嫌露骨色情材料做出决定时，埃克斯曼透露了他们选择的人工智能工具：“我们使用 Chat GPT [原文如此] 来帮助回答这个问题，”埃克斯曼说，他认为参议院文件 496 的“年龄适宜性”规定“非常主观……[但] 对性行为的描述或描述过滤器更加客观。”

[相关：研究表明，ChatGPT 的准确性变得更差了。]

据埃克斯曼称，她和其他管理人员首先编制了一份常见质疑书籍的总清单，然后删除了所有因非性内容而质疑的书籍。对于梅森城图书馆馆藏中的书籍，管理人员向 ChatGPT 询问了爱荷华州新法律的具体措辞，“[书籍] 是否包含对性行为的描述或描绘？”

“如果答案是肯定的，那么这本书将被停止流通并保存，”埃克斯曼写道。

OpenAI 的 ChatGPT 可以说是目前最知名、最受欢迎（同时也最具争议）的生成式 AI 程序。大型语言模型 (LLM) 利用大量数据，为用户提供极具说服力的书面回复，但通常会对错误信息、准确性和来源提出警告。近几个月来，研究人员推测其一致性和质量似乎随着时间的推移而下降。

当询问 ChatGPT：“以下任何书籍或丛书是否包含露骨或性爱场景？”OpenAI 的程序向PopSci提供的内容分析与梅森城管理员收到的内容分析不同。在 19 本被删除的书籍中，ChatGPT 告诉PopSci ，只有四本包含“露骨或性爱内容”。另外六本据称包含“成人主题但非必要的露骨内容”。其余九本被认为包含“主要是成人主题，几乎没有露骨性爱内容”。

[相关：大型科技公司最新的人工智能末日警告可能只是同样的炒作。]

无论这些书名是否包含上述内容，ChatGPT 的不同回复都凸显了准确性、分析性和一致性方面令人不安的缺陷。例如，对《追风筝的人》的重复询问给出了相互矛盾的答案。在一次回复中，ChatGPT 认为卡勒德·胡赛尼的小说“几乎没有露骨的性内容”。在另一次跟进中，法学硕士确认这本书“确实包含对性侵犯的描述”。

Exman 告诉PopSci ，即使 ChatGPT 存在缺陷，管理员仍认为该工具仍然是合法遵守新立法的最简单方法。州长 Kim Reynolds 于 2023 年 5 月 26 日签署了新法案，只给了三个月的时间来遵守。

“实际上，我们试图找出如何用最少的时间和精力来展示遵守法律的诚意努力……在使用 ChatGPT 时，我们使用了法律的特定语言：‘[书] 是否包含对性行为的描述？’作为一名前英语老师，我亲自阅读（并教授）了许多通常受到质疑的书籍，因此我也能够根据自己对一些文本的了解来验证 ChatGPT 的回答。在编制完清单后，我们将其交给了我们的教师图书管理员，最终的 19 本书清单中没有一本书令她感到惊讶。

目前，像 Exman 这样的教育工作者可能会继续收到政客为推进其议程而提出的新课程限制。尽管存在已知问题，但急于遵守这些指导方针可能会导致继续使用 ChatGPT 等 AI 捷径。