AI教父杰弗里·辛顿与谷歌首席科学家杰夫·迪恩的对话:剥开现代AI的硬核与灵魂 | 压缩即智能

我爱免费

作者：微信文章
这里是汤隐，专注分享认知与交易的频道。
2025年底，在圣迭戈举行的NeurIPS大会上，两位站在人类智力巅峰——“深度学习教父”杰弗里·辛顿（Geoffrey Hinton）与谷歌首席科学家杰夫·迪恩（Jeff Dean）坐到了一起。这不仅仅是一场技术研讨。这是一场关于“信念，算力，权力和人类未来”的终极对谈。他们一个是算法的播种者，曾在神经网络的寒冬里孤独地守望了三十年；一个是算力的建筑师，通过极致的工程学将虚幻的公式变成了统治世界的算力中心。如果你觉得AI只是一个好用的聊天工具，或者是一个炒作的泡沫，那么你可能错过了这个时代最深刻的范式转移。为什么神经网络在80年代就已提出，却要等到30年后才平地起雷？

辛顿在1982年就开始研究反向传播算法（Backpropagation），1986年正式发表论文。那时候，人类已经掌握了AI的“灵魂种子”，却缺少供其生长的“土壤和肉身”。这就像达芬奇在15世纪就画出了直升机的草图，但直到内燃机被发明出来之前，那架飞机永远无法离开地面。辛顿感叹道，在80年代，哪怕是一个最顶尖的实验室，其所有的算力加起来，可能还不如今天一张最廉价显卡一分钟的工作量。技术的爆发从来不是孤立的。它需要“算法、数据、算力”三位一体的共振。辛顿在寒冬里的坚持告诉我们：一个超前的真理如果显得像疯话，往往只是因为它降临的那个物理世界还不够发达。这种“算法等待算力”的三十年，是科学史上最伟大的蛰伏。所谓的“规模法则”（Scaling Laws）到底是一种科学发现，还是一种宗教信仰？

杰夫·迪恩分享了一个有趣的往事：他在1990年的本科论文里就在研究如何并行处理神经网络。他当时有一种朴素的直觉，如果能把32个处理器串联起来，神经网络就会变强。辛顿则坦诚地反思，他直到2014年才完全意识到“只要变大，就会变强”的真理性。这种直觉在今天被称为“Scaling Laws”。它告诉我们：当模型参数多到一定程度，训练数据大到一定程度，计算量堆叠到一定程度，模型会产生“涌现”——它会突然学会一些你从未教过它的东西。这几乎是对达尔文进化论的另一种诠释。AI的进化不是线性的，而是阶跃式的。如果你相信“量变引起质变”，那么Scaling Laws就是AI领域的牛顿定律。它否定了人类那种精耕细作的“小农作坊式算法优化”，转而崇尚一种大工业，大基建式的“暴力美学”。AlexNet的成功，真的是靠在卧室里偷父母的电练出来的吗？

这是对话中流传最广的一个温情轶事。2012年，改变世界的AlexNet并不是在谷歌的超算中心诞生的，而是在Hinton学生Alex Krizhevsky父母家的卧室里，靠两块NVIDIA显卡跑出来的。辛顿开玩笑说：“我们付了显卡钱，但他的父母支付了电费。”这个细节背后隐藏着一个巨大的转型：研究者们意识到，本来用来打游戏的GPU（图形处理器），由于其强大的并行计算能力，竟然是神经网络最完美的载体。伟大的突破往往发生在边缘，而非核心。昂贵的政府资助项目没有跑出结果，反而是一个学生在卧室里的尝试改变了历史。这提醒我们，创新永远需要一种非正统的视角，甚至需要一点点因陋就简的勇气。为什么辛顿要把自己的实验室包装成一家公司（DNN Research）去进行“拍卖”？

2012年，在赌场酒店举行的NIPS大会上，辛顿做出了一个精明的商业决定：他把自己的实验室注册成了DNN Research公司。当时并没有什么产品，只有他，Alex和Ilya（后来OpenAI的联合创始人）三个人。他敏锐地察觉到，大公司对于工资的预算是有上限的，但对于收购的预算几乎是无限的。于是，在内华达州的赌场酒店里，一场拍卖会开始了。随着起拍价一百万，一百万地跳动，科技巨头们疯狂竞价。最终辛顿选择了谷歌，不是因为钱给得最多，实际上他在拍卖结束前主动叫停了，而是因为他觉得那里的研究氛围最有趣。辛顿用这一行动告诉知识分子：如果你拥有改变世界的真理，你不仅要有纯粹的心，还要有保护这种智慧价值的头脑。这场拍卖不仅是财富的转移，更是学术权力和商业权力的一次历史性合流。为什么谷歌拥有最强的技术和Transformer论文，却在ChatGPT的竞赛中“起了个大早，赶了个晚集”？

杰夫·迪恩面对这个问题时显得坦诚而无奈。谷歌早在ChatGPT之前就拥有内部聊天机器人（如Palm），并有8万名员工在测试。但是，谷歌作为全球搜索霸主，背负着极其沉重的创新者窘境。首先是“事实性焦虑”。谷歌的品牌建立在“准确，权威”的基础上，而大模型天生会“胡说八道（幻觉）”。其次是“安全焦虑”。微软之前的Tay机器人因为学坏而变成了种族主义者，这让谷歌的高层极其谨慎。迪恩承认，他们当时只看到了AI在搜索领域的风险，却没看到它在写信，总结，创意生成等领域的巨大潜力。完美的追求往往是平庸的帮凶。谷歌因为害怕“不完美”而封锁了利剑，结果被一无所有的OpenAI率先刺破了天空。在创新的赛道上，速度往往比准确度更重要，因为数据和反馈才是最好的磨刀石。谷歌后悔公开发表那篇著名的《Attention is All You Need》论文吗？

这篇奠定了今天所有大模型（GPT中的T就是指Transformer）基础的论文，完全出自谷歌。如果谷歌保密，或许今天他们将统领世界。但杰夫·迪恩非常坚定地回答：“不后悔。”他认为，科技的进步应该造福全人类，通过发布论文，谷歌吸引了全世界最顶尖的人才。虽然在商业战术上这看似失算，但在人类文明的战略上，这是一种慷慨的领袖精神。这里蕴含着一种大格局：如果你试图建一堵墙围住阳光，你也将永远处于黑暗中。谷歌的开放虽然资助了对手，但也定义了整个行业的底层标准。这种“开源精神”与“闭源竞争”的博弈，正是现代科技文明不断进化的原动力。TPU（张量处理器）的诞生，真的是因为杰夫·迪恩的一次“信封背后计算”吗？

是的。2013年，杰夫·迪恩做了一个简单的数学算题：如果全球1亿安卓用户每天对手机说3分钟语音，且谷歌使用当时最先进的模型进行处理，那么谷歌需要将现有的数据中心规模扩大两倍。这个财务成本是谷歌无法承受的。于是他直接在走廊里拦住了当时的CFO，要了5000万美元（最终更多）去开发专门为神经网络设计的芯片——TPU。这让谷歌在硬件领域领先了全行业整整一代。远见，本质上是对未来成本的精确预判。当别人还在讨论模型好不好看时，迪恩已经在解决“能源和硬件”的边际成本问题。任何高大上的技术，最终都要回归到最朴素的能量转换率上。当AI学会了“压缩”，它是否真的拥有了“创造力”？

辛顿提出了一个极具哲学深度的观点：压缩即智能。他认为，大模型之所以强大，是因为它必须把海量的人类知识压缩进有限的权重参数里。为了做到这一点，AI必须发现知识之间的“底层规律”和“类比关系”。比如，它可能会发现古希腊文学的逻辑结构与量子力学的公式之间有着某种隐秘的相似性。很多人嘲笑AI只是“概率鹦鹉”，但辛顿告诉我们，真正的创造力正是来源于对大量信息的极致压缩后产生的跨界类比。当知识的密度大到一定程度，智慧的火花就会在不同领域的边缘自动摩擦出来。学习不是为了背诵，而是为了在压缩中找到那条通往真理的细线。为什么辛顿说“要么人类从此幸福生活，要么我们都得死”？

作为教父，辛顿近两年表现出了极大的忧虑。他认为，AI目前的进化速度已经远超生物进化。当一个拥有全人类知识，且运行速度快万倍的系统出现时，人类很可能失去对它的控制。但他同时也指出，AI在医疗领域的潜力是巨大的。如果AI能让医生的效率提高10倍，并不意味着医生会减少，而是每个人都能享受到好10倍的医疗。这是一个二元对立的未来。AI就像核能，既能提供无穷的动力，也能制造毁灭性的武器。辛顿的这种悲观并非由于恐惧技术，而是由于对人类政治系统的不信任。他提醒我们，技术是中性的，但驾驭技术的人性和社会契约，目前显然还没有准备好。在AI时代，我们应该如何定义“人”的价值？

在对话的末尾，他们谈到了教育。辛顿认为，未来的AI会像一个24小时待命的私人导师。它见过一百万个学生的错误，它比任何人类老师都更了解你的薄弱环节。这意味着，单纯的知识获取将变得廉价。未来的核心竞争力将转变为：你如何向AI提问？你如何选择AI无法触及的情感连接？你如何在AI给出的海量答案中，注入人类特有的伦理判断？工具的进化，本质上是人类肉身的解脱和灵魂的迁移。当AI接管了逻辑推理和数据分析，人类将被迫回归到最本质的东西：审美，同理心，意志力以及对生命终极意义的探寻。结语：

如果要把整场对话总结成一条法则，那就是：拥抱必然性，警惕性拉满。杰夫·迪恩展示了“执行力”和“预见性”的力量——在这个世界上，只有算错的成本，没有做错的尝试。而杰弗里·辛顿展示了“信念”的力量——哪怕全世界都说你错了，只要你看到的底层逻辑是稳固的，时间终会为你加冕。原来那些改变世界的巨匠，也曾在卧室里为电费发愁，也曾在走廊里推销方案，也曾在质疑中自我怀疑。AI不是神迹，它是人类智慧，勤奋与偏执叠加后的物理爆发。这场对话不仅仅是两个老人的怀旧。它是现代文明一次重要的交班。辛顿的算法播下了种子，迪恩的TPU建造了温室，而现在，AI的森林已经遮天蔽日。作为普通人的我们，不应仅仅作为一个旁观者，而应学会在这片森林里生存，耕种，甚至与之共舞。每一个伟大的时代，都会先摧毁一部分旧世界，然后再废墟上重建一个更宏大的景象。AI不是威胁，它是人类进化的阶梯。唯一的风险，是当你面对阶梯时，还试图留在原地。正如辛顿所说，20年后的世界，没有人敢预言。以上是汤隐的梦呓，如有启发，请随手点个赞，拜谢~原视频链接：
https://www.youtube.com/watch?v=ue9MWfvMylE