美國超微公司（AMD.US）發佈了AMD Instinct MI300X加速器、進行了大量優化並添加了支持LLM新功能的ROCm 6開源軟件套裝，以及配備銳龍AI功能的銳龍（Ryzen）8040系列加速器。
AMD新品
AMD Instinct MI300X加速器可用於生成AI，並具有大型語言模型（LLM）訓練和推理性能，此外，還發佈了AMD Instinct MI300A加速處理單元（APU）——結合最新的AMD CDNA 3架構和「Zen 4」CPU，可為高性能計算和人工智能工作負載提供突破性性能。
據其介紹，微軟、勞倫斯利弗莫爾國家實驗室的「El Capitan」超級計算機，甲骨文的雲基礎架構計劃，都成為其客戶。
AMD Instinct MI300X加速器採用全新的AMD CDNA 3架構。與上一代AMD Instinct MI250X加速器相比，MI300X的計算單元增加了近40%，内存容量增加了1.5倍，峰值理論内存帶寬增加了1.7倍，能支持FP8和稀疏性等新的數學格式，並能適應人工智能和高性能計算工作負載。
AMD Instinct MI300X加速器擁有192GB HBM3（高帶寬存儲）内存容量和5.3 TB/s峰值内存帶寬，可為需求激增的AI工作負載提供所需的性能。
AMD Instinct平台是基於行業標準OCP設計的生成式AI平台，擁有8個MI300X加速器，提供行業領先的1.5TB HBM3（高帶寬存儲）内存容量。AMD Instinct平台的行業標準設計允許OEM合作夥伴將MI300X加速器設計到現有的AI產品中，簡化部署並加速採用基於AMD Instinct加速器的服務器。
值得留意的是，AMD在發佈公告中提到，與英偉達的H100 HGX相比，AMD Instinct 平台在BLOOM 176B4等大語言模型上運行推理可快1.6倍，並且是市場上僅以單一MI300X加速器為70B參數模型（如Llama2）運行推理的唯一選擇，並能簡化企業級大語言模型部署。
AMD Instinct MI300A加速處理器，是全球第一個專為高性能計算和AI提供的數據中心加速處理器，結合了高性能的AMD CDNA 3 GPU内核、最新的AMD「Zen 4」x86 CPU内核和128GB的下一代HBM3（高帶寬存儲）内存，在FP32高性能計算和人工智能工作負載上，與上一代AMD Instinct MI250X相比，每瓦性能提高了1.9倍，而且與英偉達的Grace Hopper超級芯（H200與Grace CPU搭配）相比，每瓦性能或高出2倍。
不過更為重要的是，AMD宣佈推出最新的AMD ROCm 6開放軟件平台，並承諾向開源社區開放最先進的軟件庫，推進其開源AI軟件部署的願景。ROCm 6軟件大大提升了AI的加速性能，並增加了對生成式AI幾個新關鍵功能的支持，包括FlashAttention, HIPGraph和vLLM等。
至於配備銳龍AI功能的銳龍（Ryzen）8040系列加速器，預計於2024年第1季面向宏碁、華碩、戴爾、惠普、聯想和雷蛇等廠商推出。
此外，AMD表示通過收購Nod.AI與Mipsology以及更多戰略性生態合作，投資於軟件性能。
AMD能替代英偉達嗎？
據CNBC報道，Meta（META.US）、OpenAI和微軟（MSFT.US）已表示將使用AMD最新AI芯片Instinct MI300X，或意味著這些正在部署AI的科技巨頭們傾向於尋找其他產品，來替代英偉達（NVDA.US）供應緊缺而且昂貴的AI芯片。
AMD的首席執行官CEO蘇姿豐預計，AI芯片市場到2027年的市場價值可達到4000億美元以上，並認為AMD可在其中佔據較大的市場份額。AMD沒有披露MI300X的定價，但英偉達目前每顆芯片的成本大約為4萬美元，而蘇姿豐透露，AMD的芯片要低於英偉達的對應產品。
更為重要的是，AMD表示，已經改進了用於優化AI軟件棧的軟件套裝ROCm 6，以便與英偉達的行業標準CUDA軟件進行競爭，而這可能是AI開發者目前更傾向於英偉達的原因。
英偉達的護城河
說到AMD與英偉達的AI芯片競爭，有必要先說說為何GPU在AI發展中扮演核心角色，這要由並行計算說起。
並行計算是一種一次可以執行多個指令的算法——將一個計算任務分解成眾多子任務，並通過多個處理器同時執行，來加快計算速度。其目的是提高計算速度，並通過擴大問題求解規模，解決大型而復雜的計算問題。
在上世紀八九十年代，出現第一代並行計算機，例如超算和多處理器系統，這些系統通常需要多個CPU（中央處理器）或者CPU與其他專用芯片組成來實現高性能的科學計算。但這些系統成本高昂，利用效率低，編程復雜。
隨著圖形學的發展，以及遊戲對圖形處理能力需求的上升，GPU（圖形處理器）出現並發展起來。ATI於1985年開發出第一款圖形芯片和圖形卡。
最開始的時候，GPU扮演著CPU協處理器的角色，由CPU負責邏輯任務，GPU負責圖形渲染任務，當時的GPU（或稱顯卡），僅包含簡單的存儲器和幀緩衝區，只能進行圖形的存儲和傳遞，一切操作都得由CPU來控制。
隨著電子技術的發展，顯卡技術含量越來越高，功能越來越強大，英偉達於1999年發佈GeForce 256圖形處理芯片時率先提出了GPU的概念，GPU應運而生，使顯卡降低對CPU的依賴，並進行部分原本屬於CPU的工作。
隨著GPU架構的改進和編程模型的創新，GPU開始從圖形渲染擴展到數據挖掘和AI等涉及大量數據並行計算的其他領域。由於GPU擁有強大的並行運算能力，其作用已不局限於圖形加速器，而是被用作通用計算。有别於CPU的優勢在串行處理（CPU適合處理需要前後計算步驟嚴密關聯的任務），GPU可以同時處理數百個線程，在短時間内完成大量的計算任務。
人工智能（AI），顧名思義，是一種模仿人類智能和思維過程的技術，需要從海量的數據中提取新的見解和進行深度學習，從而生產出一種新的、能以人類智能相似的方式作出反應的智能機器。因此，AI的發展涉及到大量的數據處理和模型訓練，尤其深度學習需要對大量數據進行矩陣運算，這些數據是可以並行進行的類似運算，GPU正好能迎合這一需求，這正是GPU被譽為AI計算引擎和核心的原因。
英偉達與2006年以54億美元收購顯卡先驅ATI的AMD，是目前最主要的GPU生產商。2006年，英偉達推出通用並行計算架構CUDA——簡單來說，就是與英偉達自家GPU強綁定的生態，這也是英偉達AI芯片大受歡迎的原因，許多早期工程師早就使用CUDA，也因此，要突破英偉達AI芯片的護城河，首先得突破CUDA的生態壁壘。這也是AMD在其發佈會上承認所面對的障礙。
為此，AMD推出ROCm就是要用自己的生態，來抗衡英偉達的CUDA，需要注意的是，支持CUDA的GPU銷量已上億，數以千計的開發人員造就習慣使用英偉達的CUDA來解決各種問題，AMD要培育屬於自己的生態或需要一段時間。
總結
AMD在之前已經透露Instinct MI300A和MI300X GPU於第4季量產推進順利，並在第3財季業績發佈會上指出，其AI的進展較預期理想，預計第4季數據中心GPU收入約為4億美元，到2024年將超過20億美元。MI300有望成為AMD歷史上在最短時間内達到銷售額上十億美元的產品。
可見當前市場對於AMD的AI芯片早有預期，但從AMD的業績指引來看，AI的強勁發展或尚未在第4財季獲反映，要到2024財年才能體現在業績上。
英偉達則不然，其收入與非會計準則淨利潤以前所未見的加速度攀升，其AI芯片供不應求所帶來的強勁收入增長已在今年的業績中得到體現。英偉達截至2023年10月末止的2024財年第3季，該公司的收入同比大增205.51%，按季增長34.15%，至181.2億美元；非會計準則淨利潤按年大增588.19%，至100.2億美元；並預計第4財季的收入將達到200億美元，算力和網絡需求的持續強勁將帶動其數據中心的強勁增長。
當前英偉達的AI芯片供不應求與價格昂貴，或許會驅使用戶轉向AMD，不過從短期來看，AMD要取代英偉達還需要一段時間，主要因為英偉達在AI芯片領域已先聲奪人，累積了不少訂單，而且有平台與生態的競爭優勢保護，AMD要打破這些壁壘取而代之並非沒有可能，但在短期内或難以實現。