马斯克等签署千人联名信:立即停止巨型AI实验

新闻

作者：微信文章


导读：3月29日，一封由马斯克、图灵奖得主Yoshua Bengio、“AI教父”Geoffrey Hinton等1100余企业和学术界人士签署的联名信解封，对巨型AI研究的限制与否引起激烈讨论。


图：联名信基于对高级AI规划和发展问题的担忧，2017年全球近千名人工智能专家签署了阿西洛马人工智能原则（Asilomar AI Principles，阿西莫夫的机器人三大法则的扩展版本），而在2023年ChatGPT-4问世并被大规模体验之后，这种担忧达到了历史最高峰。
这封信呼吁，全球所有的人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。这种暂停应该是公开的和可验证的，并且包括所有关键参与者。如果不能迅速实施这种暂停，政府应介入并实行暂停。
信中写道，广泛的研究表明，具有与人类竞争智能的人工智能系统可能对社会和人类构成深远的风险，这一观点得到了顶级人工智能实验室的承认。只有当我们确信它们的影响是积极的并且风险是可控的时候，才应该开发强大的人工智能系统。
截至发稿前，这封1125人签署的公开信中，包括图灵奖得主Yoshua Bengio、《人工智能：现代方法》作者Stuart Russell、苹果公司联合创始人Steve Wozniak、Stability AI首席执行官Emad Mostaque、Skype 联合创始人Jaan Tallinn，Pinterest联合创始人Evan Sharp等科技界领袖人物。


图：中美AI模型数据对比（同花顺）芯片大师认为，企业和学术界担忧背后的根源可以概括为三个——算法和算力垄断、管理缺失和应用无边界，而算力垄断将成为制约我国发展同等规模AI的巨大风险。
由于AI训练海量的参数和数据量，由算力芯片构成的计算集群是最主要的硬件资源。
目前应用于高级AI主流的芯片是NVIDIA的A100/H100，而由于2022年美国要求NVIDIA和AMD对华禁运互联总线带宽高于600GB/s的芯片，NVIDIA不得不针对中国市场推出了400GB/s的“特供版”A800，单卡计算能力得以保留但互联性能被砍去1/3，意在限制中国大陆大算力AI的研发，刀法十分精准。

近期，英伟达增加了A100、H100及A800系列GPU在台积电4/5nm制程的投片数量，无疑就是ChatGPT等AI产品对大算力需求暴涨的结果。


图：中外主要AI算力芯片（浙商证券）
据报道，在ChatGPT的研发阶段，OpenAI使用了大约10000个英伟达的GPU进行相关的训练。而为了支持实际应用和满足服务器响应需求，OpenAI已使用约2.5万个英伟达的GPU，这个数量还在继续增加。

而目前来看，在决定AI能力最重要的四个因素——底层芯片、学习框架、大模型和应用中，由于美国对先进工艺制造和先进AI芯片的出口限制，满足大算力集群需要的CPU、GPU、FPGA、ASIC等主力芯片的制造和进口已经成为瓶颈。

在此之前，国内对标谷歌、英伟达和英特尔的是以阿里、百度和华为为首的ASIC设计和应用厂商，排除学习框架和大模型的优劣，国内AI厂商未来面临自主设计的ASIC无法使用先进工艺制造，也无法获得和竞争对手一样的进口芯片的尴尬，中外由于芯片算力带来的差距将进一步扩大。

1945年，第一颗原子弹爆炸成功时，美国实际上早已在“曼哈顿计划”的基础上限制了与核相关的原材料、物理学家和技术交流。等到1949年收到苏联原子弹爆炸的消息时，美国总统杜鲁门表示，原子弹应该控制在美国人民手中，呼吁对原子能进行国际控制。


↑现已开放下载请添加芯片大师个人微信（lcscsz002）获取

1、【2022中国元器件电商白皮书】，公众号回复【白皮书】获取

2、【2022Q4电商行情报告】，公众号回复【四季度】获取

3、【2021年中国元器件分销10亿俱乐部】，公众号回复【10亿】获取

End
_

_
文章精选
_

授权费翻几倍，客户拒绝Arm收“高通税”

华为已完成14nm以上芯片EDA国产化

德经济部长：考虑跟进对华出口管制

传国内将以空前力度补助头部企业

B站UP主、26岁博士成新晋“天才少年”

“阅读原文”注册享8元运费券