新闻 发表于 2024-5-7 10:12

[AI的电力饥渴:可以依赖核能?]之三,AI电力需求预测与人类进化论

作者:陆辉生命投资学
【创9:1】神赐福给挪亚和他的儿子,对他们说:“你们要生养众多,遍满了地。

【创9:7】你们要生养众多,在地上昌盛繁茂。”

Part1、背景

2024年2月29日,在“博世互联世界2024”大会上,埃隆·马斯克远程接受了博世CEO斯特凡·哈同(Stefan Hartung)和董事长马库斯·海恩(Markus Heyn)的采访时说:“我从未见过任何技术能比人工智能计算能力的发展更快。如果没有其他限制,人工智能上线的算力似乎每6个月就会增加10倍。” “我认为明年,你会看到,没有足够的电力来运行所有的芯片”

Part2、全球AI算力增长量,

SemiAnalysis如何说

据AI权威咨询机构SemiAnalysis:“许多人对数据中心建设速度提出了荒谬的假设。甚至埃隆·马斯克也发表了看法,但他的评估并不完全准确。”“需要明确指出的是,他对物理基础设施的这些限制的看法基本上是正确的,但计算量并不是每六个月就会增长 10 倍,我们跟踪所有主要超大规模科技公司的全产业链,比如CoWoS、HBM、服务器供应链,测量总AI计算能力,自2023年第1季度以来,理论峰值FP8FLOPS,季度环比50-60%的速度快速增长,也就是说,在六个月内增长远未达到10倍。CoWoS和HBM 的增长速度根本不够快。”事实就是如此,如下图,季度增长50-60%,即便如此,增速也是惊人的。



摘自:SemiAnalysis

我们还可以在报告中看到,2026年AI的电力需求占了绝大多数,如下图:



摘自:国际能源署2024-2026能源预测报告

Part3、全球AI算力的电力需求,

SemiAnalysis预测模型

SemiAnalysis用了两个重要模型,计算未来AI的电力需求:

l用“AI 数据中心模型”, SemiAnalysis AI 数据中心模型,用于收集主机代管和超大规模数据中心当前和预测的数据中心关键 IT 电源容量,重点关注将 AI 加速器部署到数据中心所驱动的需求。利用公开信息跟踪 1,500 多个数据中心及其部署,包括但不限于财产记录、用电量、信息自由法请求和卫星图像。正在训练 CNN 来加速数据中心的频繁卫星成像,从而将我们的跟踪扩展到每个国家的每个数据中心。

l此外,SemiAnalysis还建立了自己的“加速器产业模型Accelerator Industry Model”,它根据不同公司和类型,衡量历史和未来的加速器产量。(包含两个子模型:A、“Ai能力限制模型——CoWoS和HBM供应链AI Capacity Constraints - CoWoS and HBM Supply Chain ”,B、“AI 扩展 模型- CoWoS 和 HBM 的供应链分析AI Expansion - Supply Chain Analysis For CoWoS And HBM”) 用于估计 AI 和非 AI 数据中心关键 IT 电力需求和供应。(注:SemiAnalysis AI 加速器模型,根据不同公司和类型,衡量历史和未来的加速器产量,它可用于收集上下游供应链信息,从设备需求到部署容量和 FLOPS。许多供应链下游和上游的企业都可以根据我们的数据估算其收入。)

略去专业繁琐过程,精简严谨推理,SemiAnalysis认为:“人工智能的繁荣确实会迅速加速数据中心能耗的增长,到 2030 年,人工智能数据中心用电量达到2100TWh,占全球用电量的4.5%”。 远低于发电量将达到 7,933 TWh,占总发电量24%的末日情景(《通信技术的全球电力使用:2030 年趋势》2015年2月27日发表,安德斯 SG 安德雷 托马斯·埃德勒 华为技术瑞典AB估计到 2030 年,发电量将达到 7,933 TWh,占全球发电量的 24%!)

Part4、比较两份报告的结论,

国际能源署与SemiAnalysis

相比较,在前一讲中,我们介绍了国际能源署估计数,2026年数据中心、加密货币和人工智能的全球耗电量将在620‑1050TWh 之间。我们知道,2022年的数字是460TWh。未来几年,数据中心电力容量增长将从 12-15% 的复合年增长率加速至 25% 的复合年增长率。事实上,电力中心扩建并不会顺利,真正的电力紧缩即将到来。



SemiAnalysis严谨实地调研,微观落地,方法科学有效,是一份广获业界认可的富有专业经验的第三方报告,与国际能源署分析,异曲同工,其结果数字十分接近,参考意义重大。回顾比较,国际能源署的预测曲线:



SemiAnalysis报告:https://www.semianalysis.com/p/datacenter-model



Part5、SemiAnalysis预测模型与

人类进化论

为何要用这两个动态模型计算?如果没有这样的模型,“就会出现许多粗略估计,基于全球互联网协议流量增长估计的函数,就会出现马斯克所说的,人工智能上线的算力似乎每6个月就会增加10倍,这种高速度将超过宇宙的质量,前所未有的速度,世界知名咨询机构麦肯锡也经常犯这样的错误,它的估算也很糟糕。这几乎相当于把手指放在随机的复合年增长率上,然后用精美的图形重复它。”事实就是这样,加速度在递减:



正因为此,有了这两个模型,它们可以估算“因效率增益而抑制的每单位流量使用功率”的估计——虽然数字都极难估计,而其基本现场数据来源不变,依旧采用自上而下的方法,与前人工智能时代创建的数据中心功耗相同。

这两个模型的建立具有跨时代的意义,其背后的核心逻辑思想,就是以上提到过的,西蒙借鉴哈耶克分析方法,创造性提出了两大理论—“进化理论”&“诱导创新理论”:

l进化理论:人类已经进化出一系列与生存和发展相一致的生活规则和模式,这是一个必然方向

l诱导创新理论:人类在新问题刚出现时,境况会出现暂时下降,但在人类火力全开、集中聪明才智努力创新并解决问题之后,人类的物质和精神境界都将比问题没有出现之前达到大幅提升,人类文明呈现出螺旋上升的轨迹。

问题诱导创新,从而推动社会发展

同理,为了更好理解,在实际投资实践中,我把它称为“弯枝理论”



Part6、结论

未来几年,数据中心电力容量增长,不会如埃隆·马斯克的计算每六个月就会增长10 倍,更不会如在过去的十年里,计算和人工智能推进了100万倍,电力也将消耗100万倍,而是受到人类智慧创新的人工智能定律约束,3“P”,更优的Performance、更低的Power,更便宜的Price,将从 12-15% 的复合年增长率加速至 25% 的复合年增长率。

【创1:28】神就赐福给他们,又对他们说:“要生养众多,遍满地面,治理这地;也要管理海里的鱼、空中的鸟,和地上各样行动的活物。”



摘自“华尔街见闻”, 《AI的下一阶段是电力短缺、英伟达市值还要继续新高——马斯克最新采访全文!》https://wallstreetcn.com/articles/3709566

摘自“华尔街见闻”, 《AI的下一阶段是电力短缺、英伟达市值还要继续新高——马斯克最新采访全文!》https://wallstreetcn.com/articles/3709566

SemiAnalysis是一家独立的研究与分析公司,专注于半导体和人工智能行业,SemiAnalysis的报告在半导体和人工智能行业中被视为具有参考和权威性的资料来源,尤其是对于追踪最新技术趋势和市场动态的专业人士和公司而言。https://www.semianalysis.com/p/ai-datacenter-energy-dilemma-race?continueFlag=34632dc7ca0d2f31c7825a98846a8335

这是台积电的独门工艺,先将半导体芯片(像是处理器、记忆体等),一同放在硅中介层上,再透过Chip on Wafer(CoW)的封装制程连接至底层基板上。即,先将芯片通过Chip on Wafer(CoW)的封装制程连接至硅晶圆,再把CoW 芯片与基板连接,整合成CoWoS;利用这种封装模式,使得多颗芯片可以封装到一起,透过Si Interposer 互联,达到了封装体积小,功耗低,引脚少的效果。

High Bandwidth Memory 是一款新型的CPU/GPU 内存芯片(即 “RAM”),其实就是将很多个DDR芯片堆叠在一起后和GPU封装在一起,实现大容量,高位宽的DDR组合阵列。

服务器供应链管理是规划、协调和控制服务器行业中从供应商到客户的商品和服务流的过程。 有效的服务器供应链管理可以帮助组织降低成本、提高效率并增强客户满意度。

FP8 是一种8 位浮点数表示法,表示运算次数。

https://www.iea.org/reports/electricity-2024

《数据中心行业模型Datacenter Industry Model》https://www.semianalysis.com/p/datacenter-model

《AI能力限制——CoWoS和HBM供应链AI Capacity Constraints - CoWoS and HBM Supply Chain》https://www.semianalysis.com/p/ai-capacity-constraints-cowos-and

《SemiAnalysis加速器模型》,https://www.semianalysis.com/p/accelerator-model

《AI 扩展 - CoWoS 和 HBM 的供应链分析AI Expansion - Supply Chain Analysis For CoWoS And HBM》https://www.semianalysis.com/p/ai-capacity-constraints-cowos-and

同附注“14” 《SemiAnalysis加速器模型》

SemiAnalysis报告,《AI 数据中心能源困境 - 争夺 AI 数据中心空间AI Datacenter Energy Dilemma - Race for AI Datacenter Space》

https://www.semianalysis.com/p/ai-datacenter-energy-dilemma-race?continueFlag=34632dc7ca0d2f31c7825a98846a8335

《通信技术的全球电力使用:2030 年趋势》2015年2月27日发表,

安德斯SG 安德雷 托马斯·埃德勒 华为技术瑞典AB, Skalholtsgatan 9, 16494 Kista, 瑞典 https://www.mdpi.com/2078-1547/6/1/117

《数据中心行业模型Datacenter Industry Model》https://www.semianalysis.com/p/datacenter-model

《没有极限的增长》朱利安西蒙,P69
页: [1]
查看完整版本: [AI的电力饥渴:可以依赖核能?]之三,AI电力需求预测与人类进化论