AI会“一本正经地胡说八道”,或许,我们天生就渴望被骗

新闻

作者：微信文章
1770年，一个名为“土耳其行棋傀儡”的下棋机器人，在维也纳的美泉宫，击败了奥地利女皇的大臣。在接下来的数十年里，这个穿着奥斯曼土耳其服饰的木制假人，如同一位巡回演出的摇滚巨星，横扫欧洲和美国，拿破仑和本杰明·富兰克林，都曾是它的手下败将。

当然，我们今天知道，这是一个精巧的骗局。在那具复杂的机械之内，始终隐藏着一位身材矮小的人类象棋大师。

这个来自启蒙时代末期的、关于人造智能的古老幽灵，在今天，似乎被我们遗忘了。因为，我们现在使用的生成式AI大模型，已经不再需要任何隐藏的操作员，就能与我们对谈如流，它的智慧，似乎是无限的。

JSTOR Daily最近的一篇深度报道《迷人的冒名顶替者》，与几年前震惊中文互联网的“折毛事件”，如同一道跨越时空的闪电，将“土耳其傀儡”的幽灵，重新召唤回了我们面前。

我们为何渴望被“欺骗”？

“土耳其傀儡”的成功，其秘诀不在于机械的精巧，而在于其表演的成功。它的发明者，在每次表演前，都会用一种极具仪式感的方式，向观众展示其中充满了齿轮和杠杆的、看似空无一人的复杂机械。

这是一种高超的心理操纵。它利用了人类心智的一个基本特点：我们似乎天生就倾向于为复杂的、看似有自主行为的黑箱，赋予灵魂和意图。我们的大脑，无法忍受一个空无一人的歌剧院——如果台上的表演如此精彩，那么幕后，一定有一个指挥家。

这与我们今天面对ChatGPT等AI时的处境，何其相似。我们明知其本质是数学模型，却依然无法抑制内心那种去相信其背后存在一个意识的冲动。我们如同18世纪的观众，正心甘情愿地，参与到一场由我们自己和机器共同“导演”的、最伟大的魔法秀之中。

而约翰·霍普金斯大学那个收藏了2000多件历史伪作的虚构图书馆，则以一种更宏大的方式，证明了这种自我欺骗的渴望，似乎是贯穿人类历史的一个主题。馆藏中的伪作五花八门，其背后，是一部浓缩的人类欲望史：

填补“信仰”的欲望：伪造的信件，为耶稣“创造”出了一张具体的、符合信徒想象的脸。

构建“权力”的欲望：伪造的“君士坦丁的赠礼”，为教皇的世俗权力，提供了神圣的法理依据。

塑造“神话”的欲望：伪造的古代文献，为文艺复兴时期的意大利，构建了一个比希腊更古老的光荣谱系。

这些“迷人的冒名顶替者”，之所以能成功，不在于它们的技术多么高明，而在于它们迎合了特定时代、特定人群最深切的愿望，讲述了人们最渴望听到的那个故事。



Bibliotheca Fictiva收藏书籍封面
“折毛”，一个“人类版的GPT”，与一个“不再需要操作员的傀儡”2022年，中文维基百科爆出丑闻。一位自称家庭主妇的用户“折毛”，被发现在数年间，独自一人，利用机器翻译和惊人的想象力，编撰了超过200篇关于中世纪俄罗斯历史的伪史。她以一座子虚乌有的卡申银矿为中心，编织出了一段持续数十年的鞑靼-俄罗斯战争的宏大叙事。“折毛”的整个工作流程，是对AI幻觉机制的一次完美的人肉预演：

被污染的训练数据：她依赖的是自己无法完全理解的、由机器翻译提供的破碎信息。一本正经地胡说八道：当面对信息的空白时，她用自己强大的想象力去伪造出最貌似合理的细节。循环论证：用自己创造的A条目，去作为B条目的引用，最终形成了一个自我指涉、自我证明的知识闭环。

“折毛”以一种悲剧性的方式，成为了一个人类版的GPT，向我们展示了，当一个强大的生成引擎（无论是人脑还是AI），在缺乏严格的事实约束和外部校验时，其所创造出的知识，可以多么轻易地、系统性地偏离真实。更重要的是，“折毛”让我们看到了一个比“土耳其傀儡”更可怕的未来。“土耳其傀儡”的箱子里，始终有一个人作为智能的来源。而“折毛”和今天AI的箱子里，是空的。它的智能，源于对海量数据的模仿和缝合，它没有真伪的概念，只有概率的高低。
击溃幻象的武器，与我们对抗AI幻觉的心法

“土耳其傀儡”的骗局，被爱伦·坡等作家通过逻辑推理所揭穿。虚构图书馆中的大部分伪作，被15世纪以来兴起的、以洛伦佐·瓦拉为代表的文献学家们，用严谨的语文学和考据学所辨伪。“折毛”的伪史大厦，最终也是被一位较真的网络小说家和一群维基百科编辑，用最古典的史料对勘和来源查证的方法所击溃的。

历史告诉我们，对抗幻象的武器，从来都不是一个更强大的魔法，而是一种看似笨拙的、充满了认知摩擦的求真精神。

这，正是这些故事，为我们今天应对AI挑战，所提供的最宝贵的心法：

人文学科的独特价值：从事实到动机的洞察

AI擅长生成What，却不理解Why。它可能并不理解一个伪造者背后的复杂人性动机，也无法洞察一段文本背后隐藏的时代语境。而这种对语境和动机的深刻理解，恰恰是人文学科训练的核心，也是我们与AI进行有效协作的价值所在。

批判与伪造，永远是一对共同进化的宿敌。在AI让伪造成本趋近于零的今天，我们需要升级我们的“武器库”——不仅要继承传统的考据方法，更要开发和运用新的技术武器，去审问和验证AI生成的每一个结论。

教育的未来：从消费知识到解构知识

“虚构图书馆”策展人的课程“The History of Fake News From the Flood to the Apocalypse”，是一个极佳的范例，让学生在亲手创造和解构虚假的过程中，建立起对真实的深刻认知。在未来，我们的教育，必须从被动地消费知识，转向主动地解构知识的生产过程；不再是知识的传授，而是“心智免疫系统”的构建。

---

从“土耳其傀儡”，到“伪书图书馆”，再到“折毛事件”，一部跨越250年的骗术史，如同一面镜子，映照出我们与AI的现在与未来。它告诉我们，AI的行为模式、它的幻觉机制、以及它所激发的我们人性的弱点，都在历史的剧本中，反复上演过。

而我们对抗虚假的武器，也从未改变。它不是更先进的技术，而是更深刻的批判性思维；不是更海量的信息，而是更严谨的考据方法；不是更快的速度，而是更坚韧的、愿意在真实的崎岖小路上慢行的耐心。

JSTOR平台Bibliotheca Fictiva链接

https://www.jstor.org/site/johnshopkins/bibliotheca-fictiva/