AI的预期差

我爱免费

作者：微信文章
#NVDA CEO #JESEN Huang 最近在其访谈中,揭示了很多人对于AI的预期差. 我认为人们 低估了 NVDA, 包括 #AVGO
1. #推理 是 1E8 十亿倍的预期差.(很多人以为是100x, 100x, 1Mx).2. #OPENAI 会成为万亿美金的hyper scaler. (很多人以为OPENAI另一个软件公司, 或者APP, 实际上: OPENAI 会成为另一个 AI类似于云服务提供商 google, meta, 同时服务于消费者及企业.). 这是一个新的定位.3. 3 scaling law: pre-training scaling law, post-training scaling law, test-time scaling law. (大部分人都只知道 training scaling law).4. 100B to OPENAI 投资只是投资, 因为有利可图.(不是像网络上鼓吹的商业互吹, 提升股价.) 这丛另外一方面证明了 OPENAI 成功的可能性极大. 即使面对 #GOOG #META 这样的超级对手.5. OPENAI 自建基础设施(OPENAI过去的合作对象是MSFT, OCI, COrewave), 现在OPENAI成长了, 自建基础设施, 这也印证了前面 hyperscaler的定位. 自建基础设施还是租用是个非常大的财务抉择, GROK自建, OPENAI自建, Anthropic 呢? bytedance呢? 从bytedance的动作来看,应该是开始了(bytedance发布了机架以及UE标准)6. 2 exponential: the user exponential, the computation exponential of each use.7. 卖方分析师的disconnect: 卖方分析师几乎只在牛市情况下给出了20%的DC revenue growth rate.(honestly 我也很震惊, 这些分析师从不用chatGPT吗) 但实际上是40~50%.  增长的来源: 第一: general computing is over. AI computing is on the way. 大部分hyperscaler的利润来源搜索,排名,广告过去使用CPU. 全部会转向AI GPU(it's a shift). 第二, 工程师到操作软件转移到工程师和AI coworker(10T亿美金的), 软件只需要写一次,而token一直在生成.(举例alibaba计划: 10年10X on power) 第三, AI revenue to 2030: 1000亿 to 2030 1万亿, 几乎是确定的. all going to AI, 内容生成, 推荐etc...8. GDP加速增长. Besent说明年美国GDP 4.%9. 客户给NVDIA的需求forecast总是低于他们的实际需求, 导致NVDIA处于scrable mode.10. SQL 结构化的数据基于CPU计算将会转换为AI 数据基于GPU计算. very massive11. OPENAI以前找过NVIDIA投资, 但是Jensen说当时太穷了没有钱. NVIDIA已经投资了Corewave, XAI,12. NVDIA每年推出新的产品, 其中之一原因大规模的AI coworker. 每一个软件工程师,芯片工程师都有一个coworker.13. co-design: GPU, NVL, spectrum-x. model,algo. NVIDA invented 2 things: CUDA and co-design at system level. 指数增长: moore 3年一倍. 然而NVIDIA是30X. NVDA是世界上check in 开源软件最多的公司.14. 即使竞争者众多,NVDA的moat在于co-desgin的系统的大规模交付能力: GW-50B级别, 这是一个经过验证的架构.15. ASIC: anthropic也在准备构建自己的ASIC. 另一方面, anthropic成为hyperscaler似乎是不可避免的.16. ASIC: COT, customer own tooling.17. 新的mindset是AI fatory: 工厂意味着流水线, 意味着专业与分工. 新的CPX chip 则是 disaggregated work load. NVDA invented dynamo: disagreaged AI workload orchestration.18. NVLINK FUSION:19. factory cost:

20. ELON MUSK:21. sovereign AI: 除了类似于chatGPT这样的LLM, 国家还需要自己学会建造例如工业模型, 制造模型, 国家安全模型. 这是NVDA的另外一个巨大的市场.就像每个国家的电信,能源基础设施一样,每个国家需要建设自己的AI infrastructure.22. white house: Jensen说白宫如此重视AI非常吃惊,毕竟好像委员会只有一个人知道CUDA. 工业界与政府紧密合作.