产品名称 | 产品类别 | 产品简介 | 市场价 | 价格 |
---|---|---|---|---|
¥22800.00 |
¥19500.00 |
|||
¥22800.00 |
¥19500.00 |
|||
¥22800.00 |
¥6500.00 |
|||
¥22800.00 |
¥19500.00 |
|||
¥22800.00 |
¥6500.00 |
|||
¥22800.00 |
¥19500.00 |
|||
¥22800.00 |
¥19500.00 |
|||
¥22800.00 |
¥19500.00 |
|||
¥22800.00 |
¥19500.00 |
|||
¥22800.00 |
¥19500.00 |
|||
¥22800.00 |
¥19500.00 |
|||
¥22800.00 |
¥19500.00 |
|||
¥22800.00 |
¥19500.00 |
|||
¥22800.00 |
¥8500.00 |
|||
¥22800.00 |
¥8500.00 |
|||
¥22800.00 |
¥8500.00 |
|||
¥22800.00 |
¥8500.00 |
|||
¥22800.00 |
¥8500.00 |
|||
¥22800.00 |
¥8500.00 |
|||
¥22800.00 |
¥8500.00 |
AI服务器定义
AI 服务器是一种能够提供人工智能 (AI) 的数据服务器。它可用于支持本地应用程序和网站,以及向云和本地服务器提供复杂的 AI 模型和服务。AI服务器有助于为各种实时AI应用提供实时计算服务。AI服务器主要有两种架构,一种是可以在本地存储数据的混合架构,另一种是结合了远程存储技术和混合云存储(一种结合了本地存储和云存储的技术)的基于云的架构。联合)用于数据存储。从服务器的硬件架构来看,AI服务器是服务器的一种异构形式,在异构模式下可以根据应用范围进行各种组合,例如: B、CPU+GPU、CPU+TPU、CPU+其他加速卡等。
AI Server经过四种模式:服务器-云服务器-边缘服务器-AI 服务器,AI Server使用GPU来增强其并行计算能力。 CPU+GPU是AI服务器的核心部件。
AI服务器分类
(1)根据应用场景可以分为训练和推理,训练需要更多的算力
AI服务器根据应用场景可分为训练和推理,2021年我国AI服务器推理负载占比约为55.5%,未来有望进一步提升。训练需要更高的芯片处理能力,而推理需要更少的计算能力
(2)按芯片类型可分为 GPU、FPGA、ASIC 等
AI服务器采用异构形态,根据芯片类型可分为CPU+GPU、CPU+FPGA、CPU+ASIC等组合。目前,GPU仍然是数据中心加速的首选,其他非GPU芯片应用正在逐步增加,IDC预计到2025年其他非GPU芯片占比将超过20%。一般来说,ASIC提供最佳性能,但它们的可编程性和灵活性较差。在训练或通用情况下,GPU 是更好的选择。
1.17-22市场规模数据图表:
统计数据显示,2017年中国 AI服务器行业市场规模165.4亿元,2022年中国 AI服务器行业市场规模421.7亿元。2017-2022年中国 AI服务器行业市场规模如下:
图表:2017-2022年中国 AI服务器行业市场规模
数据来源:智研瞻产业研究院
2. 23-29市场规模数据图表
预测,2029年中国 AI服务器行业市场规模1076亿元。2023-2029年中国 AI服务器行业市场规模预测如下:
图表:2023-2029年中国 AI服务器行业市场规模预测
数据来源:智研瞻产业研究院
AI 服务器驱动因素
1.算力需求的增加正在带动算力基础设施开启新的增长周期:在AI等相关新兴领域的应用青睐下,以及“东数据西运”政策下云计算和超级计算中心的蓬勃发展,对数据处理和存储的需求呈指数级增长,对算力需求的不断释放呈指数级增长。 计算基础设施行业将开启新的增长周期。
2.训练单一大型语言模型带动AI训练服务器市场:在AI训练服务器方面,训练单一大型语言模型带动大约2亿美元的AI训练服务器需求。
3.ChatGPT 推动了对 AI 推理服务器的市场需求:就 AI 推理服务器而言,像 ChatGPT 这样的单个 AI 应用程序可以在早期阶段将推理服务器的需求增加到 45 亿美元。
4.AI场景对AI服务器的需求正在快速增长。算力在模型训练、推理速度和数据处理中起着重要作用。(1)更高的算力可以加快模型训练过程;(2)推理操作处理新数据,取决于计算机的计算能力和内存速度;(3)当人工智能系统处理大量数据时,它们对计算能力提出了很高的要求。
5.政治支持将导致国内AI服务器进入快速增长期。2023年,中共中央、国务院印发《中国数字化建设总体规划》,明确提出“夯实数字中国建设基础”,相信将带动大型数据中心、超级数据中心等基础设施建设,国产AI服务器规模有望迎来快速增长。
AI服务器成本
GPU+CPU+内存三者占总价值的80%:AI服务器价值的核心在于昂贵的GPU加速卡、CPU和内存配置。同时,对印刷电路板、能源管理和信号传输也提出了更高的要求,以实现价值的显着提升。
AI服务器中的芯片成本相对较高。AI芯片主要包括图形处理单元(GPU)、现场可编程门阵列(FPGA)、专用集成电路(ASIC)、神经形态芯片(NPU)等。其中,GPU是显卡的核心单元,它使用大量的计算单元和较长的流水线,在加速方面具有技术优势。与高性能服务器和通用服务器相比,AI服务器的芯片组(CPU+GPU)价格和成本比通常更高。
AI 服务器竞争格局
1、国内外服务器市场持续增长,国内市场超强
2021年,全球AI服务器市场规模为156亿美元,预计到2025年全球AI服务器市场将达到318亿美元,21-25年的复合年增长率为19.5%。市场规模将达到702亿元,21-25年的复合年增长率为19.0%。从AI服务器采购量来看,2022年北美四大云提供商微软、谷歌、Meta和AWS将占AI服务器采购量的66%左右,而AI建设浪潮在中国已经形成近年来进一步增加。年度购买量占比6.2%,其次是腾讯、阿里巴巴和百度,分别为2.3%、1.5%和1.5%。海外云巨头对AI服务器的需求更大,但随着国内AI大模型的开发和应用增加对AI服务器的需求,中国AI服务器市场有望持续增长。
2.AI服务器有望快速增长,国内外云巨头加大AI服务器采购
ChatGPT、文心一言等AIGC大规模模型导致对计算资源的需求呈爆炸式增长,从而带动了对AI服务器的需求增加。分层配置升级,单机AI服务器价值较通用机型翻倍,量价齐升。 2023年全球AI服务器出货量同比增长8%,2022-2026年平均增速将达到10.8%。
过去五年,全球服务器市场格局相对稳定,新华三、HPE、戴尔、浪潮、联想占据了大部分市场份额。例外是华为因制裁退出X86服务器市场,剥离的超级合并预计将在未来几年内逐渐接管空市场。此外,值得注意的是,以美超微、广达、康宝、鸿海精密为代表的ODM厂商也随着定制化需求的增长,市场份额有所提升。在中国市场,浪潮在2021年以30.7%的市场份额领跑,其次是新华三/慧与、戴尔、联想和华为,分别为17.5%、7.5%、7.4%和6.6%(2020年为19.2%)。
AI 服务器市场空间
1.国内外厂商使用大型模型,数千亿级参数驱动计算能力需求增长
参数的数量与所需的计算能力成正比。 GPT-4参数最大数量为1.5万亿,GPT-4算力需求可达31271PFlop/s-day;同时国内外厂商都在加速大机型的开发。体量已经达到千亿级别,同时带动算力需求的爆发式增长。
2.随着训练需求占比下降,推理需求有望持续增加
2023 年,AI 服务器的训练需求为 41.5%,通过应用大型模型,这一比例将在 2025 年降至 39.2%;如果以GPT-4的计算结果作为训练要求,那就更进一步了 ,据估计,2023/2025 年对论据的需求将最高。
AI 服务器产业链
服务器产业链上游主要由组件供应商组成,中游由服务器品牌和OEM/ODM制造商组成,服务器的下游客户是互联网和云服务制造商、运营商和其他客户群体。
1.服务器上游:主要包括芯片、PCB、连接器、线缆、电源和各类接口等。
这里的服务器上游主要是从硬件层面拆解服务器,获取服务器中核心组件的供应商,主要包括GPU、CPU、内存、PCB/载板、连接器、电缆、散热、电源、模拟芯片、接口芯片、BMC芯片、RAID卡、各种接口、无源元件和供电设备等。建议关注全球核心GPU厂商英伟达的表现,以及英伟达产业链的相关受益对象。
2.服务器中游:主要包括服务器品牌商和OEM/ODM厂商,未来OEM/ODM可能会逐步向JDM模式过渡。
传统服务器行业的交付模式是OEM/ODM通过品牌商到客户,未来随着终端客户对服务器定制化的需求逐渐增加,OEM/ODM厂商将逐步加强与终端客户的直接接触以满足定制化需求的最终客户,或逐渐迁移到 JDM。
3.服务器下游:主要是购买服务器的不同客户群体。服务器下游终端客户群主要是B端和G端客户,主要包括互联网提供商、云服务提供商、运营商、政府机构、金融机构等。
相比中国,美国在算力和效率方面优势很大,基础设施支撑也非常发达。其中,超大型数据中心建设范围居世界首位。云计算在中国的普及与美国非常相似。中国互联网公司继续扩大对公共云的投资,促进了超大型数据中心的快速发展。中国在AI算力方面处于世界领先地位,AI服务器支出量同比增长44.5%,首次超过美国,位居全球第一。
未来,超级计算中心将与云计算和互联网技术相结合,从精准研发、信息安全、石油勘探、航空航天和科学计算领域向医药、基因测序、动画渲染、数字电影、数据挖掘、金融等领域拓展应用。分析和互联网服务,对AI服务器的巨大需求有望成为服务器市场新的增长点。