智通財經APP獲悉,Omdia發文稱,由於高成本AI服務器的滲透率不斷提高,而通用服務器的更新至少要推遲到2024年,3Q23的服務器出貨量同比下降26%。預計2023年全年服務器出貨量爲1140萬臺,同比下降19%。在2024年的更新週期中,Omdia預計,服務器將進行重大整合,用一臺新服務器取代多臺已安裝的服務器。這得益於更高核數的CPU和以應用優化爲核心的新型服務器架構。2027年服務器市場的價值將達到1956億美元。
在上述預測中,服務器處理器和協處理器所佔份額正在增加,其驅動力是向超異構計算發展,即帶有許多協處理器的應用優化服務器配置。這方面的例子包括:
運行AI訓練和推理的服務器
用於大型語言模型訓練的最流行服務器配置是英偉達 DGX 服務器,配置有 8 個 H100/A100 GPU
亞馬遜用於AI推理的服務器配置有 16 個定製協處理器(稱爲 Inferentia 2)
配備多個定製協處理器的視頻轉碼服務器
谷歌的視頻轉碼服務器有 20 個定製協處理器(稱爲 VCU)
Meta 的視頻處理服務器有 12 個定製協處理器(稱爲 Meta 可擴展視頻處理器)
Omdia預計,隨着某些應用的需求逐漸成熟,構建優化定製處理器的成本效益也會隨之提高,這種趨勢只會越來越明顯。媒體和AI是超異構計算的早期受益者,數據庫和網絡服務等其他工作負載也會出現類似的優化趨勢。
通用服務器的出貨量明顯放緩,領先製造商感受到了宏觀經濟逆風和投資重點變化的熱度。需求疲軟主要體現在企業和電信運營商領域。服務器的使用壽命達到了歷史最高水平,目前企業平均使用7 年的服務器,並推遲了更新換代。
爲AI配置的服務器的部署增長與Omdia 的預測一致。英偉達第三季度數據中心收入爲145億美元(同比增長近四倍),與Omdia的預期一致。這表明,正如預期的那樣,英偉達在第三季度出貨了近50萬塊H100和A100 GPU。Omdia預測第四季度的出貨量將突破50 萬大關。
在雲服務提供商細分市場,高配置AI服務器的部署正在抵消通用服務器迭代的延遲。但企業和電信運營商細分市場的情況並非如此,因爲服務器製造商很難從英偉達獲得足夠的GPU 配貨。服務器OEM 廠商表示,配置英偉達™(NVIDIA®)H100 GPU 的服務器的交付週期爲36-52 周。