智通財經APP獲悉,根據TrendForce集邦諮詢最新調查,隨着NVIDIA Blackwell新平臺預計於2024年第四季出貨,將推動液冷散熱方案的滲透率明顯增長,從2024年的10%左右至2025年將突破20%。隨着全球ESG(環境、社會和公司治理)意識提升,加上CSP(雲端服務業者)加速建設AI服務器,預期有助於帶動散熱方案從氣冷轉向液冷形式。
觀察全球AI服務器市場,2024年主要AI方案供應商仍是NVIDIA(英偉達)(NVDA.US)。若在GPU AI服務器市場而言,NVIDIA則佔據強大的優勢,市佔率接近90%,排名第二的AMD(AMD.US)僅約8%。
TrendForce集邦諮詢觀察,今年NVIDIA Blackwell出貨量規模較小,主要是因爲供應鏈仍在進行產品最終測試驗證等流程,如高速傳輸和散熱設計等方面需要持續優化。新平臺因能耗較高,尤其GB200整櫃式方案需要更好的散熱效率,有望促進液冷方案滲透率。然而,現有服務器生態系採用液冷的比例尚低,對於漏液或散熱效能不佳的問題,ODM(原始設計製造商)仍須歷經學習曲線後得出最佳解決方式。TrendForce集邦諮詢預估2025年Blackwell平臺在高端GPU的佔比有望超過80%,這將促使電源供應廠商和散熱行業等將競相投入AI液冷市場,形成新的產業競爭格局。
大型CSP加快布建AI服務器,Google積極佈局液冷方案
近年來,Google、AWS和Microsoft等大型美系雲端業者皆加快布建AI服務器,主要採用搭載NVIDIA GPU及自研ASIC的方式。據TrendForce集邦諮詢瞭解,NVIDIA GB200 NVL72機櫃之熱設計功耗(TDP)高達約140kW,需要採用液冷方案才能解決散熱問題,預計將以水對氣(Liquid-to-Air, L2A)方式爲主流。HGX和MGX等其他架構的Blackwell服務器因密度較低,氣冷散熱爲主要方案。
在雲端業者自研AI ASIC方面,Google的TPU除了使用氣冷方案,還積極佈局液冷散熱,是最積極採用液冷方案的美系廠商,BOYD和Cooler Master是其冷水板(Cold Plate)的主要供應商。中國大陸方面,Alibaba(阿里巴巴 (HK:9988))最積極擴建液冷數據中心,其他雲端服務商對自研的AI ASIC主要仍採用氣冷散熱方案。
TrendForce集邦諮詢指出,雲端服務商將指定GB200機櫃液冷散熱方案的關鍵零部件供應商,目前冷水板(Cold Plate)主要供應商爲奇鋐和Cooler Master,分歧管(Manifold)爲Cooler Master和雙鴻,冷卻分配系統(Coolant Distribution Unit, CDU)爲Vertiv和臺達電。至於防止漏水的關鍵零件快接頭(Quick Disconnect, QD),目前採購仍以CPC、Parker Hannifin、Denfoss和Staubli等廠商爲主,其他供應商如嘉澤和富世達等已進入驗證階段,預期2025年上半年,上述廠商有機會加入快接頭供應商的行列,有助於逐步緩解當前供不應求的局面。