獲取40%折扣優惠
🔑 精選股票觀點,五一輕鬆解鎖財富密碼領取限時優惠

廣發證券:HBM高帶寬優勢成爲AI大模型訓練推理關鍵 GDDR具備性價比優勢

發布 2024-4-24 上午11:16
© Reuters.  廣發證券:HBM高帶寬優勢成爲AI大模型訓練推理關鍵 GDDR具備性價比優勢

智通財經APP獲悉,廣發證券發佈研報指出,GDDR是專爲圖形處理應用設計的高速內存技術,搭配GPU用於圖形處理、數據中心加速和AI等需要高帶寬數據處理的場景。HBM是一種新型內存,得益於堆疊結構和垂直TSV互連,HBM具有更高的傳輸帶寬、更高的存儲密度、更低的功耗以及更小的尺寸,高帶寬優勢對大模型訓練和推理的效率提升至關重要。近年來,大部分高端數據中心GPU和ASIC均使用HBM作爲內存方案,GDDR在推理等場景中具備性價比優勢。未來,HBM技術持續向更高帶寬、更大容量發展,12Hi-16Hi HBM4有望2026年進入量產。

廣發證券主要觀點如下:

AI存儲路線圖:更大容量、更大帶寬、更低功耗

隨着人工智能的快速發展,大模型的參數量指數級增長,不僅推升了處理器的算力需求,同時也對與處理器匹配的內存系統提出了更高的要求。一方面,大量模型數據的傳輸要求更大的內存帶寬,以緩解“內存牆”問題,提升HPC系統計算效率;另一方面,內存系統的容量需要大幅拓展,以存儲千億參數乃至更大規模的大模型。

如何理解內存系統層級及關鍵參數?

對於單個乃至多個處理器組成的系統而言,內存系統自下而上可以分爲單元、陣列、die、封裝、系統幾個層級。根據處理器設計和應用的不同,所配置的內存類型、規格選擇和配置數量也有所不同,需要和處理器總線寬度、時鐘頻率等參數相匹配。內存最重要的性能參數是容量、帶寬和延遲,同時還需要考慮能耗和性價比。不同類型的DRAM各有優勢,在設計處理器系統架構的時候需要針對不同的應用,選擇合適的內存系統設計。

DDR+LPDDR路線圖:面向CPU,構建高效大容量內存系統

DDR是最傳統、最主流的DRAM類型。廣泛用於PC、服務器、HPC等領域。目前,DDR5是最新一代DDR標準,提供更高的速度、更高的效率和更大的容量。LPDDR正在成爲數據中心CPU的新選擇,其原因是需要在大規模AI和HPC工作負載的帶寬、能效、容量和成本之間取得最佳平衡。

廣發證券指出,隨着前端先進製造技術接近物理極限,DRAM芯片本身的性能提升越來越難,從內存模組和系統架構層面進行性能提升成爲新的方向。MCRDIMM/MRDIMM允許並行訪問同一個DIMM中的兩個陣列,從而大幅提升DIMM模組的容量和帶寬。CXL是一種高速互連技術,提供處理器與專用加速器、高性能存儲系統之間的高效、高速、低延時接口,以滿足資源共享、內存池化和高效運算調度的需求。

風險提示:半導體行業週期性波動風險;人工智能行業發展不及預期風險;新技術進展不及預期風險。

最新評論

風險聲明: 金融工具及/或加密貨幣交易涉及高風險,包括可損失部分或全部投資金額,因此未必適合所有投資者。加密貨幣價格波幅極大,並可能會受到金融、監管或政治事件等多種外部因素影響。保證金交易會增加金融風險。
交易金融工具或加密貨幣之前,你應完全瞭解與金融市場交易相關的風險和代價、細心考慮你的投資目標、經驗水平和風險取向,並在有需要時尋求專業建議。
Fusion Media 謹此提醒,本網站上含有的數據資料並非一定即時提供或準確。網站上的數據和價格並非一定由任何市場或交易所提供,而可能由市場作價者提供,因此價格未必準確,且可能與任何特定市場的實際價格有所出入。這表示價格只作參考之用,而並不適合作交易用途。 假如在本網站內交易或倚賴本網站上的資訊,導致你遭到任何損失或傷害,Fusion Media 及本網站上的任何數據提供者恕不負責。
未經 Fusion Media 及/或數據提供者事先給予明確書面許可,禁止使用、儲存、複製、展示、修改、傳輸或發佈本網站上含有的數據。所有知識產權均由提供者及/或在本網站上提供數據的交易所擁有。
Fusion Media 可能會因網站上出現的廣告,並根據你與廣告或廣告商產生的互動,而獲得廣告商提供的報酬。
本協議以英文為主要語言。英文版如與香港中文版有任何歧異,概以英文版為準。
© 2007-2024 - Fusion Media Limited保留所有權利