AI服务器价格涨近20倍！带火哪些芯片？

来源：车辆知多少 发布时间：2023-05-26 15:44

放置服务器的机房，全年无休，来源：ecl-ips.com

比拟电脑，服务器在稳定性、安全性、机能等方面都要求更高，绝不夸张地说，每年双十一若不是有足够牛X的服务器，购物狂欢节会变成“网络错误”或“请稍后再试”的刷屏节。

究竟短短一两分钟内，就要处理剁手党们发送给电商服务器的上千亿交易订单，再发送给用户进行响应，数据流量到达巅峰（2018年，天猫双11支付峰值为25.6万笔/秒，数据库处理峰值为4200万次/秒），每年对服务器的机能都是一次大考。

这操纵放在1964年诞生的第一代服务器System/360身上大概是无法想象的，那时无论网络仍是分布式计算都没诞生，当年IBM推出它的时候，仍是在协助美国太空总署建立阿波罗11号的数据库，助力人类登月。它每秒可计算100万次，价格高达200-300万美元一台，体积庞大，许多银行采购这样的IBM大型机开展业务。

很快在1965年，服务器的价格被打了下来，这年DEC公司开发了PDP-8小型机，掀起了小型机革命。90年代初，互联网兴起，RISC架构的服务器如日中天，英特尔x86架构的服务器让许多小企业甚至是个人用户都能买得起，不到20年的时间，英特尔迅速统治了各类计算机市场。

在AI服务器之前，服务器大致经历了Wintel时代、云计算时代两个时代的演变，跟着新一代人工智能技术的到来，摩尔定律的“到头”，CPU的物理工艺和核心数接近极限，单靠CPU提供算力的传统服务器，很难满意AI对密集型计算的需求。

机器学习和人工智能代表了一个基本的新架构，人工智能需要专属的基础结构进行承载和支撑，AI服务器从此应运而生。

谷歌、BAT等企业面对海量的数据，打造一座数据中心时，通常都要配备成千上万台服务器。以用到A100的ChatGPT为例，其部署的大算力计算，每个GPU或大算力AI芯片的算力大于100TFLOPS。这时就要给服务器们上更高的配置，强强联手，搭载GPU或者其他类型的AI芯片，好比GPU就非常擅长做一些CPU做不了的密集型数据运算。

AI服务器和普通服务器最大的区别，就是AI服务器通常打组合拳，好比CPU+GPU、CPU+TPU、CPU+其他的加速卡等，CPU在AI服务器中，彻底卸下了算力的包袱，当当领导指挥下就行。

02

一台AI服务器涨价近20倍，

凭啥？

一台AI服务器的价格，从去年到现在涨了近20倍。而一台普通服务器，都换不到AI服务器里的8个GPU，价格上相形见绌。大家都在数据中心里躺着，凭什么AI服务器这么金贵，价格疯涨？

在AI服务器中，CPU退居幕后，GPU等AI芯片在其中充当主角做大量运算，算力无止境，事实上，AI服务器通常有且不仅只有一块GPU。

固然FPGA、各类ASIC芯片也可以做大量运算，但GPU强盛的通用性使得它更吃香。IDC数据显示，2021年上半年中国人工智能芯片行业中，GPU明显成为实现数据中心加速的首选，据有90%以上的市场份额。

CPU方面，AI服务器一般仅搭载1-2块CPU，GPU的数目就占上风了，根据GPU数目的不同，AI服务器进一步分为四路、八路和十六路服务器，搭载8块GPU的八路AI服务器最常见。

AI大模型分为练习和推理两种，练习模型要求的算力很高，推理相对要求低一点，但大模型总有一天会练习出来，推理却永无止境，好比ChatGPT与我们对话就是推理的过程，从算力总需求上来看，推理可能甚至要高过练习。

算力的高低最直观的影响就是速度，谁也不想练习一个模型要耗上个把年，等AI回答个题目，等到人老珠黄。在这个内卷的时代，谁快，谁就有饭吃。

有研究机构测算，以GPT-4为例，为满意最高 75352 PFlop/s-day的算力，在5 PFlop/s-day的计算速度下，20天完成，需要采购754台浪潮NF5688M6服务器（2 CPU + 8 GPU），缩短至15天，就要1005台，缩短至5天完成，就要多达3015台！

浪潮NF5688M6搭载了两颗intel ice lake处理器，8颗英伟达A800GPU，京东售价约105万，按照CPU约5.3万/颗，GPU约10.4万元/颗计算，CPU和GPU的价值量占比为10.10%和79.24%。

说白了，玩家为了大模型的运算效率，得加钱，氪金充值。

放在整机上，GPU的本钱仍是遥遥领先，无人能敌。普通服务器和AI服务器的BOM表显示，AI服务器单机均匀售价（ASP）比普通服务器要高出5倍，AI服务器对AI芯片如英伟达的A100需求大，而普通服务器甚至都不需要用到专业的AI芯片。

普通服务器最贵的CPU，单机ASP 14400美元，不到AI服务器中GPU 96000美元的四分之一，而普通服务器40000美元的单机总成本ASP，也不及AI服务器GPU这一项本钱的一半。讲个笑话，一台普通服务器，都换不到八路AI服务器里的8个英伟达A100。

这就是AI服务器轻易价格疯涨的原因，背后本钱占比高，单价昂贵的英伟达A100等GPU几乎成了决定性因素。

来源：中金点睛

挖矿潮过去后，英伟达显然嗅到了生成式AI高潮的铜臭味。有业内人士表态，早在去年6月开始，英伟达就已经公布上调A100价格，涨幅在20%左右，因为美国禁令，英伟达特供中国的A800版本在ChatGPT爆火之前已经泛起了涨价，导致市场上泛起了众多炒货行为。

固然海内有华为、百度、阿里等自研的AI芯片，也有部门服务器厂商使用这些芯片，但整个AI服务器市场，英伟达仍是夺得冠军的那个，所以英伟达就成了AI服务器这条涨价线的源头。

ChatGPT的大火，导致英伟达高端GPU价格一路上涨。有代理商透露，英伟达A100价格从去年12月开始上涨，截至今年4月上半月，5个月价格累计涨幅达到37.5%；同期A800价格累计涨幅达20.0%。

GPU的持续缺货，进一步影响AI服务器厂商的出货，连带着下游云服务厂商，AI企业都要受到影响。今年以来，AI服务器价格大涨的动静不绝于耳。

英伟达也向台积电追加订单，但GPU需要的进步前辈制程产能究竟有限，因此交货周期仍是没有幸免拉长，之前拿货周期大约为一个月，现在基本都需要三个月或更长。甚至，部门新订单“可能要到12月才能交付”。

一些云服务厂商开始缩衣减食，严格限制内部对GPU的使用量。有厂商表示，“后悔买少了。”颇有种汽车缺芯时那种差之一“芯”，失之万台的感觉。

03

AI服务器

还带动了哪些芯片需求？

无论GPU如何带动AI服务器涨价，本质上是AI市场需求的体现，就像前两年汽车缺芯一样。这种需求的泛起往往伴随的不只是一种芯片的激增。

中金测算，AI服务器核心组件按价值量由高到低依次为GPU、DRAM、SSD、CPU、网卡、PCB、高速互联芯片和散热模组等，按7.5万台练习型和17.5万台推理型服务器测算，对应市场规模分别为240亿美元、88亿美元、48亿美元、34亿美元、5亿美元、3亿美元、2.5亿美元和1.5亿美元。