AI服务器作为算力基础设施受青睐为了满足AI大模型对算力的需求,市场对于AI服务器作为算力基础设施之一的需求也随之增加。AI服务器是一种专门用于支持人工智能应用的服务器,与传统通用服务器相比,它具备以下特点:- 异构式架构:AI服务器通常采用CPU和GPU等组合的异构式架构,利用GPU强大的图形渲染和海量数据并行运算能力,提高运算效率和性能;- 高密度设计:AI服务器通常采用高密度设计,将多个节点集成在一个机架内,节省空间和能源消耗;- 高性能网络:AI服务器通常采用高性能网络接口和交换机,实现高速数据传输和低延迟通信;- 高效散热:AI服务器通常采用高效散热方案,保证设备在高负载运行下稳定工作。
由于以上特点,AI服务器可以快速准确地处理海量数据,在深度学习、高性能计算、搜索引擎、游戏等行业广泛应用。例如,在深度学习领域,训练复杂的神经网络模型;在搜索引擎领域,提供智能搜索服务;在游戏领域,渲染高清画面和生成虚拟角色等。据IDC数据显示,在2021年上半年全球AI服务器市场中,浪潮信息以20%的市场份额位居第一,戴尔、惠普、联想、华为分别以14%、10%、6%、5%紧随其后。当前中国AI服务器企业在全球处于前列位置。
IDC中国研究经理索引对记者表示:“过去几年,加速计算服务器(加速计算服务器中90%为AI服务器)是拉动服务器市场增长的主要驱动力,2019年~2022年,整个服务器市场增量为100亿美元,其中50亿美元来自加速计算服务器市场增量。”据TrendForce的数据,截至2022年为止,预估搭载GPGPU(General Purpose GPU)的AI服务器年出货量占整体服务器比重近1%,预估在ChatBot相关应用加持下,有望再度推动AI相关领域的发展,预估出货量年成长可达8%;2022~2026年复合成长率将达10.8%。
GPU持续紧缺推动AI服务器价格大涨尽管AI服务器市场前景广阔,但目前AI服务器行业也面临着一些困境,其中最突出的就是核心零部件GPU的持续紧缺和价格大涨。GPU是图形处理器或加速芯片的简称,是一种专门用于处理图形和视频相关的运算的芯片。由于GPU具有强大的并行计算能力,可以同时处理大量数据,因此在人工智能领域被广泛应用于加速深度学习模型的训练和推理过程。
目前,全球GPU市场主要由英伟达和AMD两家公司所垄断,其中英伟达占据全球约八成市场份额。然而,由于全球芯片产业链的复杂性和脆弱性,以及美国对中国企业的技术封锁和制裁,导致GPU供应持续紧张。另一方面,由于疫情期间游戏、云计算、加密货币等行业的需求增加,也导致GPU需求持续旺盛,供需失衡使得GPU价格不断上涨。据悉,英伟达在2020年8月发布了面向AI领域的高端显卡A100/H100,但在2022年8月被美国宣布禁售中国企业。
为了应对这一局面,英伟达在2022年11月表示已研发出可向中国出货的A800(替代A100),并在今年3月表示已研发出可向中国出货的H800(替代H100)。然而,这些替代品的供应仍然十分有限,远远不能满足市场需求。
据一家英伟达终端商家透露,目前英伟达A100单价为15万元,两个月前为10万元,涨幅50%;A800目前单价约为9.5万元,上月单价为8.9万元。另有代理商透露,英伟达A100价格从去年12月开始上涨,截至今年4月上半月,5个月价格累计涨幅达到37.5%,同期A800价格累计涨幅达20%。由于一个AI服务器往往搭载数颗GPU,因此AI服务器的价格涨幅往往高于零部件价格涨幅。有企业透露,其去年6月购买的AI服务器不足一年价格涨了近20倍。同期,其他品牌的AI服务器也出现了不同程度的涨价。例如,某服务器ODM企业相关人士告诉记者,从五月份开始该公司A100卡也有15%涨幅,整体AI服务器为10%左右的涨幅.