FX168財經報社(北美)訊 英偉達的CEO黃仁勳告訴投資者,儘管競爭對手試圖削減其市場份額,並且英偉達的主要供應商之一對AI芯片銷售做出了低迷的預期,英偉達將繼續是AI訓練芯片的黃金標準。#AI熱潮#
從OpenAI到埃隆·馬斯克的特斯拉,所有人都依賴英偉達的半導體來運行他們的大型語言或計算機視覺模型。
黃仁勳在公司週三的年度股東大會上表示,英偉達將在今年晚些時候推出的「Blackwell」系統只會進一步鞏固這一領先地位。
Blackwell系統於今年三月發佈,是繼其旗艦「Hopper」H100芯片系列之後的下一代AI訓練處理器——這些芯片在科技行業中極爲珍貴,每個售價高達數萬美元。
「Blackwell架構平臺可能會成爲我們歷史上乃至整個計算機歷史上最成功的產品,」黃仁勳說。
本月,英偉達短暫超越微軟和蘋果,成爲全球最有價值的公司,這一令人矚目的反彈推動了今年標普500指數的漲幅。黃仁勳的公司市值一度超過了3萬億美元,比許多國家和股票市場還要高,但在投資者鎖定利潤後,市值創下了歷史紀錄的損失。
然而,只要英偉達芯片繼續成爲AI訓練的基準,長期前景依然樂觀,基本面也依然強勁。
英偉達的一個關鍵優勢是其粘性的AI生態系統,稱爲CUDA,即計算統一設備架構。就像日常消費者不願意從蘋果iOS設備切換到使用谷歌Android的三星手機一樣,一羣開發者多年來一直在使用CUDA,感覺非常舒適,幾乎沒有理由考慮使用其他軟件平臺。就像硬件一樣,CUDA實際上已經成爲一個標準。
「英偉達平臺通過每個主要雲提供商和計算機制造商廣泛可用,爲開發者和客戶創造了一個大而有吸引力的基礎,這使得我們的平臺對客戶來說更有價值,」黃仁勳在週三補充道。
美光(Micron)的下季度收入指引不足以讓看漲者滿意
在內存芯片供應商美光科技預測第四財季收入將僅符合市場預期的大約76億美元后,AI交易遭受了近期打擊。美光向包括英偉達在內的公司供應高帶寬內存(HBM)芯片。
美光股價暴跌7%,遠遠跑輸科技股集中的納斯達克綜合指數的微漲。
過去,美光及其韓國競爭對手三星和SK海力士在內存芯片市場上經歷了常見的週期性繁榮和蕭條,而內存芯片相比邏輯芯片如圖形處理器被長期視爲商品業務。
但由於對其芯片的需求激增,投資者對其股票的熱情大增,特別是AI訓練所需的芯片。美光的股價在過去12個月裏翻了一番多,意味着投資者已經計入了管理層預測的大部分增長。
「該指引基本符合預期,而在AI硬件領域,如果指引符合預期,這被視爲略微令人失望,」Deepwater資產管理公司的科技投資者Gene Munster表示。「動量投資者只是沒有看到更多積極的增量理由。」
分析師密切關注高帶寬內存的需求,因爲它是AI行業的一個領先指標,解決了AI訓練今天面臨的最大經濟約束問題——擴展問題。
HBM芯片解決了AI訓練中的擴展問題
成本不會隨着模型複雜性的增加而線性增長,模型參數數量可能達到數十億,而是呈指數級增長。這導致效率隨着時間的推移而遞減。
即使收入以穩定的速度增長,隨着模型變得更加先進,損失有可能膨脹到數十億甚至數百億美元。這威脅到任何沒有深口袋投資者如微軟支持的公司,如其CEO Sam Altman最近所言,微軟確保OpenAI能夠「支付賬單」。
導致收益遞減的一個關鍵原因是決定AI訓練性能的兩個因素之間的差距日益擴大。第一個是邏輯芯片的原始計算能力——以FLOPS(一種每秒計算量)衡量——第二個是需要快速提供數據的內存帶寬——通常以每秒百萬次傳輸(MT/s)表示。
由於它們是協同工作的,單獨擴展一個會導致浪費和成本效率低下。因此,FLOPS利用率,即實際可以使用的計算量,是評估AI模型成本效率的一個關鍵指標。
截至明年底售罄
正如美光所指出的,數據傳輸速率無法跟上計算能力的提升。由此產生的瓶頸,通常被稱爲「內存牆」,是當今擴展AI訓練模型固有效率低下的主要原因之一。
這也解釋了爲什麼美國政府在決定禁止向中國出口哪些特定英偉達芯片以削弱中國的AI發展計劃時,特別關注內存帶寬。
週三,美光表示,其HBM業務已「售罄」直至明年年底,即比其財年滯後一季度,這與韓國競爭對手SK海力士的類似評論相呼應。
「我們預計將在2024財年從HBM業務中產生數億美元的收入,並在2025財年產生數十億美元的收入,」美光週三表示。