华为AI突破性成果即将发布!

新闻

作者：微信文章
最新消息，华为将于8月12日在2025金融AI推理应用落地与发展论坛上，发布AI推理领域的突破性技术成果。

据透露，这项成果或能降低中国AI推理对HBM（高带宽内存）技术的依赖，提升国内AI大模型推理性能，完善中国AI推理生态的关键部分。



HBM（High Bandwidth Memory，高带宽内存）是一种基于3D堆叠技术的先进DRAM解决方案，多层DRAM芯片垂直集成，显著提升数据传输效率。具有超高带宽与低延迟、高容量密度、高能效比等优势。

AI推理需频繁调用海量模型参数（如千亿级权重）和实时输入数据。HBM的高带宽和大容量允许GPU直接访问完整模型，可避免传统DDR内存因带宽不足导致的算力闲置。对于千亿参数以上的大模型，HBM可显著提升响应速度。

当下，HBM已成为高端AI芯片的标配，训练侧渗透率接近100%，推理侧随模型复杂化加速普及。

然而，其产能紧张和美国出口限制倒逼国内厂商探索Chiplet封装、低参数模型优化等替代方案。

END



最后提一句，21ic论坛（bbs.21ic.com）正在招募原创作者，单篇文章奖励最高500元，欢迎广大网友踊跃投稿！

点击了解活动详情

往期精选：

突发！比亚迪被判侵权，面临技术禁用

海康威视被封杀，最新官方回应！

华为否认抄袭后，盘古员工深夜自爆开发黑幕：套壳、续训、洗水印

扫描二维码，关注视频号
请点下【♡】给小编加鸡腿