AI 服务器行业研究

多客科技

作者：微信文章
什么是服务器？服务器是一种高性能计算机，在网络环境中为其他计算机（客户端）提供服务，具备强大的计算能力、存储能力和稳定性。主要由芯片、内存、硬盘、主板、电源、散热系统以及机壳等部件组成。传统的服务器主要以CPU为算力来源，AI时代，AI服务器占比逐渐扩大，AI服务器采取异构形式，就是多种不同的芯片放在同一个服务器里，共同参与计算，可以有CPU+GPU、CPU+ASIC等等组合。如阿里玄铁C930芯片还有上海沐曦的曦云C500等芯片都可以集成到AI服务器里。

AI 服务器是一种专门设计用于执行人工智能、机器学习、深度学习等计算密集型任务的高性能服务器。

一、AI服务器概览


硬件架构

处理器（CPU）：通常采用高性能的多核处理器，如英特尔至强系列、AMD EPYC 系列等，以提供强大的通用计算能力，用于处理复杂的逻辑运算、数据预处理等任务。

图形处理器（GPU）：是 AI 服务器的核心组件之一，具有强大的并行计算能力，能够高效处理大量的数据并行计算任务，如神经网络训练和推理。常见的 GPU 厂商有英伟达、AMD 等，英伟达的 A100、H100 等系列 GPU 在 AI 领域应用广泛。

张量处理器（TPU）：专门为加速张量运算而设计，在深度学习任务中表现出色，能够提供比 GPU 更高的计算效率和更低的能耗，谷歌的 TPU 是典型代表。

内存和存储：需要配备大容量的高速内存，如 DDR4、DDR5 等，以满足模型训练和推理过程中对大量数据的快速访问需求。存储方面，通常采用固态硬盘（SSD），以提供更快的读写速度，减少数据读取时间。

网络接口：为了满足 AI 服务器与其他设备之间的高速数据传输需求，通常配备高速网络接口，如万兆以太网接口、InfiniBand 接口等，以实现低延迟、高带宽的数据传输。

软件支持

操作系统：常见的有 Linux 系统，如 Ubuntu、CentOS 等，具有稳定性高、开源、可定制性强等优点，能够很好地支持 AI 相关的软件和工具。此外，Windows Server 系统也有一定的应用，其界面友好，便于初学者使用。

深度学习框架：如 TensorFlow、PyTorch、Keras 等，这些框架提供了丰富的 API 和工具，方便开发者进行神经网络的搭建、训练和推理，大大降低了 AI 开发的门槛。

AI 计算库：如 CUDA、CUDNN 等，它们是英伟达推出的用于加速 GPU 计算的工具包，能够充分发挥 GPU 的性能，提高 AI 计算的效率。

二、通用服务器与AI服务器的成本构成

在通用服务器中，CPU与DRAM价值量占据前列，二者约占BOM成本的60%；而在AI服务器中，GPU价值占比独占鳌头，高达BOM成本的70%左右。

通用服务器通常标配2张CPU，而AI服务器则采用异构设计，除2张CPU外，还需额外配置4至16张GPU（或其他加速卡）。当前，训练服务器以8卡配置为主流，并随着训练规模的扩大，正逐步向16卡配置演进；而推理服务器则主要采用4卡配置。



服务器成本构成

资料来源：Wind

三、AI服务器的需求与供给

需求决定了成长天花板，供给决定了一个公司能走多远。

（一）AI服务器需求分析

A服务器的需求可以从两个方面来观察。一是看各大IT厂商的资本开支，二是看AI应用的落地，也就是在生产生活中对人工智能的终极需求。

1、IT大厂的资本开支

早在2022年海外互联网厂商就开始提前布局AI 了，而我们的互联网巨头BAT因为业绩的压力，资本开支前几年反而在缩减，但是在2023年的时候意识到了AI发展的重要性，开始大笔投入，资本开支增速快速拉升。也是在那个时候，光模块、PCB、存储等相关板块业绩快速增长，股价也在2024年的熊市中逆势上涨。但我国的服务器龙头（浪潮信息）在2023年业绩增速反而下降，主要原因是浪潮原来的主营业务是传统服务器，AI服务器的增速和营收占比虽然快速扩张，但抵不过传统服务器的拖累，导致业绩和营收双双出现下滑。当然随着AI服务器的占比越来越大，IT大厂资本开支的持续扩张，后期AI服务器有望继续带来业绩增长。

PS：研究公司的时候一定要看它的营收构成，看需求爆发的产品带来的业绩弹性大不大。

2月20日，阿里公布2024Q4（日历年度）业绩，当季资本开支317亿元，较上个季度环比增长82%。据新华社报道“阿里巴巴集团CEO吴泳铭24日宣布，未来三年，阿里将投入超过3800亿元，用于建设云和AI硬件基础设施，总额超过去十年总和”，意味着年均资本开支1300亿元，参照阿里财报，2024年其资本开支总额为767亿元，意味着2025年增量约1300-767=533亿元。

投向何处？AI三大领域。参照阿里CEO吴泳铭在电话会上的介绍，阿里的资本开支主要用于三大领域：AI和云计算的基础设施建设、AI基础模型平台以及AI原生应用、现有业务的AI转型升级。



我国AI服务器主要应用于互联网厂商和运营商，占比分别为47%和20%。研究AI服务器的直接需求就看这些互联网大厂的动态即可。比如字节跳动，在全球各地大笔投资，未来十年要在欧洲投资120亿欧元。腾讯和阿里2024年度的资本开支分别为804亿元和767亿元。

三大运营商资本开支投资额相对较少，但AI算力投资预计较去年增长200亿。参照通信产业报，“随着市场对智能云、算网、智算服务、行业数智化应用需求的进一步提升，电信运营商将持续加码算力方面的投资，如构建新的万卡智算集群，扩大400G算力网络的覆盖规模，加紧AI大模型的训练和迭代，加快AI与行业数字化应用的融合等”。据通信产业报数据，预计三大运营商2025年算力开支为1000亿元、较2024年多200亿元。



2、AI下游应用落地

再来看看AI的下游应用落地带来的需求。比如AI眼镜、智能驾驶、AI医药、人形机器人等等，AI的应用是能够落实到各行各业的，能够积极推动场景数字化。据华为《加速行业智能化白皮书》、《数字化转型，从战略到执行》介绍，制造业在制造、运输、管理等多个环节进行数字化应用，可以实现降本增效，数字化创造的潜在价值高达6万亿美元。金融、保险、零售、能源、电力等产业的数字化潜在价值均在2万亿美元以上。整个数字化解决方案的潜在价值对应将近27万亿美元。

（二）AI服务器供给分析

AI服务器的市场格局还是不错的。2024年9月30日——国际数据公司（IDC）发布了最新的《中国半年度加速计算市场（2024上半年）跟踪》报告。IDC数据显示，2024上半年中国加速服务器市场规模达到50亿美元，同比2023上半年增长63%。其中GPU服务器依然占主导地位，达到43亿美元。同时NPU、ASIC 和 FPGA等非GPU加速服务器以同比182%的增速达到近7亿美元市场规模。

2023年浪潮信息为国内AI服务器市占率第一，前三大厂商占比将近70%。2024上半年，从厂商销售额角度看，浪潮、新华三、宁畅位居前三，占据了超过70%的市场份额；从服务器出货台数角度看，浪潮、新华三、坤前位居前三名，占有近60%的市场份额；从行业的角度看，互联网依然是最大的采购行业，占整体加速服务器市场超过60%的份额，除了金融和服务两个行业外，其余行业均有不同幅度的增长。



再来看一下全球服务器市场。

根据IDC的《全球服务器季度追踪报告》，2024 年第四季度全球服务器市场收入达到创纪录的 773 亿美元（约5595亿人民币），同比增长 91%，创下2019年以来第二高增速。全年市场规模突破2357亿美元（约17052亿人民币），较2020年翻倍增长，这一爆发式增长的核心驱动力来自AI算力需求，标志着服务器行业进入高速发展新阶段。

头部争夺战：戴尔（营收增20.6%）与超微（增55%）以7.2%与6.5%市占率并列第一。

第二梯队混战：HPE、浪潮信息、联想市占率在4.9%-5.5%间胶着。

ODM颠覆性扩张：直接代工模式厂商（如富士康、广达）营收同比暴涨155.5%，以47.3%的份额碾压传统品牌。云服务商定制化需求推动白盒服务器普及，传统品牌商面临渠道转型压力。

总体市场格局非常分散，说明这不是一个高壁垒的行业。