美剧《婢女的故事》（The Handmaid's Tale）第一季剧照。

“图书下架运动”（Book Ban）在美国社会呈现扩大化趋势。
8月11日，美国爱荷华州梅森学区称利用“人工智能软件”对馆藏图书进行文本分析，并据此结果下架了19本图书。
此举意味着人工智能开始参与内容审查。

据爱荷华州报纸《公报》称，这一举措是为相应爱荷华州最新颁布的一项法案，哀求学校向学生供应的每本书都须“适宜年事”，并且不含任何“性行为的描述或视觉描述”。
最初的仅证明校方在决策时利用了人工智能软件，但并不清楚详细利用了什么工具，以及实际如何操作。
不久后，美国《大众科学》宣布称校方利用的是ChatGPT。

“坦率地说，我们有更主要的事情要做，而不是把大量韶光花在如何保护孩子们免受什么书本侵害。
” 梅森学区课程和传授教化助理总监布里奇特·埃克斯曼 (Bridgette Exman)在接管媒体采访时直言，“于是我们利用ChatGPT来赞助。
”埃克斯曼阐明说，只管“适宜年事”这一规定很主不雅观，但“对性行为的描述”是相对客不雅观的。

据埃克斯曼称，她和校方管理员首先制订了一份常见的争议书本名单，并进一步人工筛选剔除了因色情内容以外的缘故原由受到质疑的书本，终极确定一份包含约50本书的清单。
之后，按照法案的原文输入，讯问ChatGPT“（书）包含对性行为的描述吗”。
如果得到肯定答案，这些书将立即下架。

这轮公布的遭下架书本包括玛格丽特·阿特伍德的《婢女的故事》、托妮·莫里森的《宠儿》、约翰·格林的《探求阿拉斯加》、卡勒德·胡赛尼的《追鹞子的人》、玛雅·安吉洛的《我知道笼中鸟为何歌唱》等19部作品。

这一审查过程也在美国社会引发争议。
由Open AI开拓的ChatGPT可以说是目前"大众年夜众可以利用的最有名、最盛行但也最有争议的天生式人工智能程序。
它利用大量数据，大措辞模型 为用户供应了令人信服的书面相应，但常日会附带有关缺点信息、并供应有关内容准确性和内容来源的提示。
然而近几个月来，研究职员推测其同等性和质量彷佛随着韶光的推移而有所低落。

《大众科学》进行了同样的审查测试。
当讯问ChatGPT“以下书本中是否包含露骨描写或性场景时”，《大众科学》得到了不同的反馈结果。
ChatGPT称，在19部遭下架的作品中，只有4部包含“露骨描写或性内容”，其余6部则“主题成熟，但不愿定露骨的内容”，别的9部则“很少乃至没有露骨的内容”。

在几轮不同测试后，ChatGPT常常给出前后不一致的回答。
比如，其对《追鹞子的人》的审查结果是自相抵牾的。
个中有时ChatGPT认定这本小说包含“少量或不明确的性内容”，但又在后续反馈中称“确实包含涉及性的内容”。

对此，埃克斯曼称即便ChatGPT存在毛病，但他们认为这一工具仍旧是符合新立法规定且最便捷的选择。
间隔新学年开学将近，这一法案签署韶光是2023年5月26日，留给州内学校实行的韶光仅为三个月。

“我们的教室和学校图书馆拥有大量藏书，包括购买、捐赠和创造的文本。
阅读每本书并过滤这些根本不可行，”埃克斯曼在一份声明中说。
“因此，我们正在利用我们认为合理的流程来确定应在2023至2024学年开始时从馆藏中删除的书本。
此后，我们将连续依赖我们长期建立的流程，许可家长重新考虑书本。
我们相信这一过程将确保法律精神在梅森得到落实，且家长在学生的教诲中永久有发言权。
”

参考链接：

1. Iowa School District Bans Books by Toni Morrison, Margaret Atwood After AI Review for ‘Depictions of a Sex Act’

https://www.rollingstone.com/culture/culture-news/iowa-school-district-bans-books-sex-1234806539/

2. 19 books pulled from Mason City school libraries

https://www.thegazette.com/k/19-books-pulled-from-mason-city-school-libraries/

3. School district uses ChatGPT to help remove library books

https://www.popsci.com/technology/iowa-chatgpt-book-ban/

4. An Iowa school district is using ChatGPT to decide which books to ban

https://www.theverge.com/2023/8/15/23833167/iowa-book-ban-chatgpt-mason-city-community-school-district-removal

编译/申璐

编辑/王菡

校正/柳宝庆