北美最大AI训练基地:全球首用直触液冷,集成8192张AMD MI325X加速卡与2048TB显存

我爱免费

作者：微信文章

快科技7月15日讯，AI基础设施提供商TensorWave近日宣布，其位于北美的超大规模AI训练基地已正式启用。该基地部署了惊人的8192块AMD Instinct MI325X AI加速卡，成为目前北美地区已知规模最大的同类设施。

值得注意的是，该数据中心是全球首个公开披露的、采用芯片直触式液冷散热方案的大型AI数据中心，这为其处理高密度计算提供了关键保障。



<img   />

AMD MI325X加速卡于去年面世，采用5nm制程工艺打造。其内部集成304个计算单元（总计19456个核心），晶体管数量达1530亿。在FP8精度下，其计算能力高达2.6千万亿次计算每秒，并配备了256GB HBM3E高速显存，提供高达6TB/s的显存带宽。



尽管AMD已发布新一代的MI350X和MI355X加速卡，但它们的实际部署仍需时间。因此，MI325X目前仍是已大规模落地应用的最先进AMD AI加速卡。



<img   />

将8192块MI325X整合在一个系统中，其总核心数接近1.6亿个。在FP8精度下，整个系统的聚合计算性能达到了惊人的2100亿亿次浮点运算每秒。

同时，整个系统的显存总容量达到了2048TB，显存总带宽更是突破了2PB/s。

单块MI325X的功耗已达1000W。在全负载运行状态下，整个系统每小时耗电超过8000度。如此高的功率密度使得液冷散热成为必需。TensorWave为其所有GPU节点部署了自主研发的芯片直触液冷循环系统，确保高效散热。



<img   />

这套强大的计算系统未来将以云服务形式对外开放，提供租赁服务。

此次部署仅是TensorWave宏伟计划的第一阶段。公司预计在今年晚些时候引入性能更强、支持FP4/FP6精度的AMD MI350X加速卡。虽然MI350X的功耗可能攀升至1400W，但其计算能力和带宽将实现显著跃升。



<img   />

-END-文章来源：快科技、硬件世界（作者:上方文Q），如有侵权立即删除，请及时联系


<img   />