智通財經APP獲悉，有媒體援引知情人士透露的消息報道稱，韓國存儲巨頭SK海力士在週二已開始全面量產用於人工智能芯片(AI 芯片)系統的新一代HBM存儲，這也意味着SK海力士未來將在HBM3E領域與美光展開全面競爭。知情人士表示，SK海力士的首批出貨將於本月交付給AI芯片霸主英偉達(NVDA.US)，英偉達即將量產的基於B100以及H200 這兩款全新AI GPU的超級算力體系將搭載SK海力士新一代HBM存儲系統。
在全球存儲領域，這種名爲“HBM3E”的新型高端存儲系統可謂是存儲市場激烈競爭的核心焦點，HBM存儲系統自2023年以來因AI芯片需求而呈現爆炸式增長。而美光和SK海力士一樣，均已成爲英偉達新款 AI GPU的HBM存儲系統供應商，提供的產品均爲最新款的“HBM3E”。
在上個月，SK海力士在存儲芯片領域的最大競爭者之一美光科技(MU.US)表示已開始大規模量產全新HBM3E存儲系統，並且開始陸續交付給英偉達。
在存儲芯片領域具備領導者地位的三星電子(Samsung Electronics)所開發的HBM3E雖然未正式獲得向英偉達AI GPU供貨的資質，但是近日表示已開發出業界的首款12層堆疊36GB的高性能HBM3E存儲系統。此外，三星的HBM3存儲系統已成功加入英偉達AI芯片組件供應商名單，預計將從第四季度開始供應HBM3存儲系統，其供應時間全線晚於SK與美光，且SK與美光已獲得英偉達HBM3E認證。
HBM是一種高帶寬、低能耗的存儲技術，專門用於高性能計算和圖形處理領域。HBM堆疊的多個DRAM芯片連接在一起，通過微細的Through-Silicon Vias(TSVs)進行數據傳輸，從而實現高速高帶寬的數據傳輸。
HBM主要用於高性能圖形卡、AI加速、高性能計算和數據中心服務器等領域，其高帶寬特性，以及極低延遲和高能效比使得處理器能夠更快地訪問存儲空間，大幅提高計算性能和效率。在AI基礎設施領域，HBM存儲系統搭配英偉達H100 AI服務器系統，以及即將問世的B100和H200等AI 服務器系統使用。
知名研究機構Mordor Intelligence預測數據顯示，HBM存儲產品的市場規模預計將從 2024年的約 25.2 億美元激增至 2029年的 79.5 億美元，預測期內(2024-2029年)複合年增長率高達 25.86%。
SK海力士乃HBM當之無愧龍頭! 美光則欲“後發制人”
然而，不可否認的是，雖然在整個DRAM存儲領域三星電子乃絕對領導者，但是SK海力士旗下“HBM3版本”的HBM存儲系統目前爲唯一綁定英偉達H100這一需求極度旺盛的AI GPU的存儲系統，SK可謂引領全球HBM存儲市場。有統計數據顯示，在2023年，英偉達在用於人工智能(AI)訓練/推理的AI芯片市場上佔據高達90%的份額。
而HBM市場方面，截至2022年，三大原廠HBM市佔率分別爲SK海力士50%、三星電子約40%、美光約10%，由於SK海力士在HBM領域最早發力，早在2016年已涉足這一領域，因此佔據着絕大多數市場份額。有業內人士表示，2023年份額分佈將與2022年大致相同。美光在HBM領域的發展相對較晚，但是近期HBM行業的動態消息顯示，佔據HBM僅10%份額的美光欲“後發制人。
此外，就在SK海力士以及美光先後與AI芯片霸主英偉達敲定HBM3E供應認證之際，三星卻意外缺席。據悉，三星最新推出的HBM3E至今仍未通過英偉達的HBM存儲品質測試。
美光計劃於 2024 年初(大概2月份)開始大批量生產HBM3E 新型存儲產品，並開始陸續交付，同時還透露英偉達是其新型 HBM存儲產品的主要客戶之一。此外，該公司強調其全新HBM產品受到了整個行業的極大興趣，這暗示英偉達可能不是唯一最終使用美光 HBM3E 的大型客戶。美光顯然對 HBM3E 寄予厚望，因爲這可能使其能夠領從SK海力士以及三星電子手中不斷贏得市場份額，以全面提高公司營收和利潤。
根據一些業內人士爆料，美光的HBM3E將支持英偉達搭載HBM3E的新款AI硬件體系——Grace Hopper GH200 超級算力體系(該算力體系配備基於 H100 計算 GPU 和 Grace CPU)，這表明美光在HBM領域的最新進展不僅是技術上的全面突破，也是其與英偉達合作深化的體現。據業內人士透露，英偉達即將發佈的基於B100以及H200 GPU的超級算力體系可能也將搭載美光HBM3E。
美光HBM3E 模塊基於八個堆疊 24Gbit 存儲芯片，採用該公司的 1β (1-beta) 製造工藝製造。這些模塊的數據速率高達 9.2 GT/秒，使每個堆棧的峯值帶寬達到 1.2 TB/s，比目前最快的 HBM3 模塊提高了 44%。與此同時，該公司不會停止其基於 8-Hi 24 Gbit 的 HBM3E 組件。該公司宣佈，繼開始量產 8-Hi 24GB 堆棧後，計劃於 2024 年推出超大容量 36 GB 12-Hi HBM3E 堆棧。
美光還表示，其最新款的HBM3E的功耗將比競爭對手產品低 大約30%，有助於滿足爲大型生成式 AI 應用提供計算動力的AI芯片不斷增長的存儲需求。
SK海力士欲鞏固HBM龍頭地位
“公司希望HBM3E能夠不久後成功量產，憑藉我們的經驗，作爲業界首家HBM3供應商，我們希望鞏固我們在人工智能HBM存儲領域的領導地位。”SK海力士在一份聲明中表示。
性能方面，世界第二大存儲芯片製造商SK海力士最新推出的新型HBM3E存儲系統在散熱方面較上一代提高了10%，每秒處理數據的速度則高達1.18 tb。
業內的一些分析人士表示，SK海力士2024年的HBM產能可能已被預訂滿，因爲全球數據中心以及科技企業對人工智能芯片組的爆炸性需求推高了對其中使用的高端HBM存儲系統的強勁需求。
無獨有偶，美光高管也表示，美光HBM3E2024年需求無比強勁。美光首席執行官Sanjay Mehrotra在第一財季業績會議上表示，數據中心用於幫助開發人工智能軟件/應用程序的高端存儲芯片需求異常強勁。 Mehrotra還強調道，美光已經徹底售罄預計在2024年產能能夠生產的所有HBM。“這就是創建人工智能軟件的計算機所需要的超快訪問芯片類型。AI給我們所帶來的高營收、高利潤機會纔剛剛開始。”Mehrotra表示。
從市場策略的角度來看，SK海力士憑藉作爲目前綁定英偉達AI GPU的HBM3存儲的唯一供應商，已經在HBM存儲市場上確立了領導地位，並且其HBM產能已經預訂滿2024年。美光則通過其HBM3E產品的能效和領先全球同行的性能優勢，嘗試在高端內存市場中取得競爭優勢，並且已經在行業內受到了極大的關注和興趣。
“SK海力士在HBM存儲領域可以說已經獲得領先的市場地位，預計其高端存儲系統的產量增長規模也將是芯片製造商中最激進的。”IBK Investment & Securities分析師Kim Un-ho表示。
英偉達於美東時間週一發佈了其最新的旗艦款人工智能GPU——B200，據稱在某些任務上比其前代AI GPU快將近30倍，以強勢捍衛其在人工智能芯片領域的絕對主導地位。B100背後的Blackwell架構成本和能耗較前代改善25倍，爲全球最強大AI GPU，由 2080 億個晶體管組成，採用臺積電4NP製程，支持多達10萬億參數的模型進行AI訓練和實時大語言模型(LLM)推理。
由於在HBM芯片領域的領先地位，SK海力士的股價在過去12個月裏翻了一番。截至上週五收盤，美光過去12個月的漲幅超過70%，本月早些時候，隨着分析師們強調該存儲巨頭在人工智能熱潮中的重要地位，該公司股價在今年達到創紀錄的歷史高點。