AI教父Hinton中国演讲:AI如幼虎,警惕养虎为患

我爱免费

作者：微信文章


7月26日，2025世界人工智能大会在上海开幕。图灵奖、诺贝尔物理学奖得主杰弗里·辛顿在主论坛上发表《数字智能是否会取代生物智能》的主题演讲。这是Hinton首次现身中国，首次公开演讲。对于 77 岁、身体欠佳的他来说实属不易，也更能体现出他此次中国行的弥足珍贵。

作为最为关注 AI 治理及安全问题的顶级专家，Hinton 一如既往地表达了他对 AI 治理的关心。从自己的研究生涯开始，他分享了大模型的变迁以及背后的技术范式。最后他呼吁建立一个由多个国家参与的国际 AI 安全研究网络，专注于研究如何训练 AI 向善。

观点如下：

人类或许与大语言模型相似，都会产生 “幻觉”，但大语言模型远优于依赖类比信号的人类大脑。

人类难以永久留存知识，大脑死亡即意味着知识消逝；知识传递也效率低下，只能通过语言等方式，无法完全复制。而AI可通过共享参数快速传递知识，例如借助蒸馏技术（如DeepSeek的实践）。若独立智能体能共享同一组权重并以相同方式运作，就能实现数十亿乃至数万亿比特带宽的知识传递，前提是所有智能体运作方式完全一致。

当前人类与AI的关系，恰似饲养一只可爱的小虎崽 —— 它长大后可能轻易超越人类。为了生存，要么摆脱它，要么找到永久保护自身的方法。

但AI已无法消除，它能大幅提升几乎所有行业的效率，即便有国家想消除，其他国家也不会认同。 呼吁全球建立由各国人工智能安全研究所与国内研究网络组成的国际社群，培养不会从人类手中夺权的 “好AI”。

就在WAIC开幕前一天，辛顿还参加了第四届人工智能国际安全对话（International Dialogues on AI Safety，IDAIS）。他与清华大学交叉信息研究院和人工智能学院院长姚期智、加州大学伯克利分校教授斯图尔特·拉塞尔（Stuart Russell），以及上海人工智能实验室主任周伯文教授等 20 余名专家联名签署发布了《AI 安全国际对话上海共识》。



图 | AI 安全国际对话上海共识签署现场，辛顿、姚期智等专家合影

WAIC现场圆桌讨论环节，在图灵奖得主、中国科学院院士姚期智的引领下，多位全球AI领域专家围绕 “同球共济推动AI普惠发展” 展开深度探讨。姚期智聚焦 “如何通过国际合作弥合AI鸿沟” 这一核心议题，指出当前AI技术集中于少数国家和企业，需全球携手确保技术红利惠及所有国家与群体，为讨论奠定了全球视野的基调。



美国约翰霍普金斯大学政府与政策学教授、计算机科学教授Gillian Hadfield从经济学与法律视角出发，强调AI作为变革性技术，需关注模型所有权与交易市场设计。她提出，技术获取是普惠关键，但需先解决安全性问题，才能让更多国家尤其是未充分受益于工业革命的国家共享AI革命成果，凸显了公平与安全并重的治理思路。

蒙迪与合伙人公司总裁Craig Mundie结合企业经验谈到，技术演进规律显示，智能机器时代的服务成本会随规模扩大而下降。他认为，尽管模型训练成本高，但通过技术普及和设备轻量化，全球企业将推动AI服务更易获取，无论是教育还是商业场景，每个人都能享受到技术便利，展现了市场力量在技术普惠中的推动作用。

上海人工智能实验室主任、首席科学家周伯文从技术、应用与治理三方面建言。他强调AI具有通用性、可复制性与开源特征，发展与安全同等重要，需推动 “内生安全” 研究。他分享了国际合作案例：上海人工智能实验室的台风预测技术曾提前三天精准预警，目前正与南方国家合作推广；同时呼吁建立全球治理框架，指出 “个体安全依赖群体安全”，中国推动的全球人工智能合作治理协议在联合国通过，体现了治理共识的重要性，为技术落地与全球协作提供了实践范例。

美国加州大学伯克利分校计算机科学杰出教授Stuart Russell则直指AGI竞赛的无意义性。他认为，AGI一旦创造出来，将是无限的财富创造者，应成为全球公共资源，对所有人类开放，竞争毫无意义。他强调有效监管的必要性，需将AGI风险降至极低水平（如核能领域 “100 万年一遇” 的安全标准），避免技术失控威胁人类文明，为全球AI治理敲响警钟。

杰弗里・辛顿，AI 教父

在人工智能领域里，杰弗里・辛顿赫赫有名。他于 1947 年出生，是一位英裔加拿大计算机科学家、认知科学家和认知心理学家，因其在人工神经网络方面的工作而闻名，并因此被誉为「人工智能教父」。

辛顿在 1978 年在爱丁堡大学获得人工智能博士学位。他是多伦多大学名誉教授，2013 年到 2023 年，他同时在谷歌大脑工作，2023 年 5 月公开宣布离开谷歌。

1986 年，辛顿与 David Rumelhart、Ronald J. Williams 合作发表了一篇被广泛引用的论文《Learning internal representations by error-propagation》，推广了用于训练多层神经网络的反向传播算法。在 2012 年，他与学生 Alex Krizhevsky 和 Ilya Sutskever 合作设计了 AlexNet ，在 ImageNet 挑战赛上取得了优异成绩，成为了图像识别领域的里程碑，也是计算机视觉领域的一次突破。

辛顿因在深度学习方面的杰出贡献，与约书亚・本吉奥（Yoshua Bengio）和杨立坤（Yann LeCun）共同获得了 2018 年图灵奖，该奖被称为「计算机界的诺贝尔奖」。他们经常被称为「深度学习教父」而共同提起。辛顿还与约翰・霍普菲尔德（John Hopfield）一起获得了 2024 年诺贝尔物理学奖，以表彰他们在利用人工神经网络进行机器学习方面做出的基础性发现和发明。



2023 年 5 月，辛顿宣布从谷歌辞职，以便能够「自由地谈论人工智能的风险」。他对恶意行为者的故意滥用、技术失业以及通用人工智能的生存风险表示担忧。辛顿指出，制定安全准则需要在人工智能使用方面相互竞争的各方之间进行合作，以避免最坏的结果。在获得诺贝尔奖后，他呼吁紧急研究人工智能安全问题，以找出如何控制比人类更聪明的人工智能系统。

新智引擎

打造全球人工智能应用合作平台



合作咨询

李老师 13717823245

夏老师 18410106251

柳老师 15711366323

往期 · 推荐

1.新智蓝皮书 | 2025北京人形机器人产业地图：各区“机器人军团”靠啥一路“狂飙”？

2.中国人工智能百人会筹备会第一次工作会议召开——凝聚智慧 共绘AI蓝图

3.新智蓝皮书 | 国家及北京市人形机器人政策汇编

4.『新智引擎』2024年终回顾：智启新篇，聚力未来！