AI學會遺忘前,人類還能記得自己嗎?

新闻

作者：微信文章


（本文刊載於中時新聞網，2025年10月25日，作者●朱玉昌）

在硅谷喧嚣的科技叙事里，安德烈．卡帕斯（Andrej Karpathy）的声音格外冷静，他不是那种把AI吹捧为将要颠覆人类文明的传教士，他像一位谨慎的观察者，用数据和历史尺度来描摹未来的轮廓。这位OpenAI联合创办人、前特斯拉AI负责人，在接受播客德瓦克什．帕特尔（Dwarkesh Patel）的深度访谈中，以一种近乎理性哲学家的口吻，拆解当下AI热潮背后的真相，也画出他口中一段从模拟智能到真正智能体（Agent）的十年长征。

卡帕斯并不认为2025是所谓的「智能体元年」。在他看来，这象是「智能体十年的开端」。人们被各种演示所迷惑，以为一个能写邮件、生成程序码、回应对话的模型就能取代实习生。他认为「这些系统或许能理解文字，却仍不懂世界。」它们无法打开一个文件夹、安排一场会议、或在现实环境里持续记住你的偏好。AI目前最大的短板，在于缺乏「长期记忆」与「多模态理解」，它看不见、摸不着、也无法像人类那样从连续的经验中学会操作世界。技术突破的第一公里虽然已开通，但要把原型转化为稳定可靠的产品，可能还需要十年。

他用了一个令人印象深刻的比喻，「我们并不是在模仿人，而是在召唤幽灵。」这句话既诗意又准确。卡帕斯指出，现代大语言模型并非延续生物演化的逻辑，而是一种前所未有的存在，由网络上亿万人类语言与知识碎片组成的「数位智能体」。它没有本能、没有肌肉记忆，也没有求生意志。它存在于云端、以算法为血肉、以数据为神经。这意味着，它既非人造的复制品，也不是人类智慧的延伸，而是一种完全崭新的生命形式。这个比喻背后隐含的意思是，如果我们仍以「像不像人」来衡量AI，便会错过理解这波新智能浪潮的真正关键。

卡帕斯特别强调，AI进化的瓶颈不在算力，而在「记忆与遗忘的平衡」。当前的模型记住了太多，论文措辞、网络对话、训练样本中的琐碎细节，却缺乏抽象能力与逻辑浓缩。这好似硬盘被填满档案却找不到重点资料，AI同样陷入知识的沼泽。他预测未来的AI架构将分为两层，一个「纯净的核心认知层」负责逻辑与推理；另一个「外挂式记忆库」则在需要时调用知识。让AI学会有选择地遗忘，才是让它真正变聪明的开始。

他对强化学习（Reinforcement Learning, RL）则毫不留情地批判，「强化学习就像用吸管去吸取一滴正确的讯号。」他指出，这种训练方式只能得到最终的对错反馈，却无法理解中间哪一步出错，其效率低下且容易学偏。人类之所以学得快，是因为我们会反思、会对比、会讨论、会理解因果。卡帕斯认为下一代AI应该学会这样的「中间反馈机制」，透过推理与逻辑链获得洞见，而不是盲目试错。这也代表着，AI的演化路径将逐步远离模仿人脑的生物机制，转向能够自我建构理解的推理架构。

谈到超级智能，他没有沿用科幻式的恐惧叙事。他说，真正的风险不是AI「造反」，而是人类「失控」。当AI深入金融、能源、医疗、交通等关键系统，模型与模型之间将编织出一个我们谁也看不懂的网络。届时，没有任何人能完全理解世界的运作逻辑，我们或许不是被机器奴役，而是被复杂性吞没。这正是他称为「自动化滑坡」（automation slide）的现象，每当我们把某项工作交给机器，自己就退回一层。久而久之，我们会发现自己只剩观察的权力，而失去了理解的能力。

卡帕斯的观点，在今天被生成式AI热潮包覆的世界中，无疑是一帖清醒剂。这场技术革命的速度，让人们误以为未来已全被压缩到今年的产品发布会里，他的话提醒我们，AI不是一场短跑，而是一场长跑；不是取代人的终点，而是重新定义「智能」的过程。接下来的十年，将是AI学会「记得什么、忘记什么」的十年，也是人类必须学会「如何与幽灵共存」的十年。

在他冷静细诉的背后，听到的应该不是悲观，而是一种更深层的谦卑。真正的创新从来就不是单纯的技术突破，还包括人类重新学会节制与反思的能力。未来的智能，根本不在于机器是否变得更像人，而在于人是否仍记得自己是谁。