智通財經APP獲悉,當地時間周一,微軟(MSFT.US) 宣布加強和英偉達(NVDA.US)的合作,將 GPU 從此前的 A100 升級到 H100,推出專門針對人工智能開發的全新的ND H100 v5 虛擬機。據了解 , 微軟先前在 Azure OpenAI 服務中宣布了 ChatGPT 相關服務,而本次虛擬機是該服務的補充,它允許第叁方通過 Azure 訪問聊天機器人技術。
微軟表示,該虛擬機主要面向需要整合或開發人工智能的企業,將使用 8 塊英偉達 H100 Tensor Core GPU,通過下一代 NVSwitch 和 NVLink 4.0 互連,在非阻塞(non-blocking)的胖樹(Fat-Tree)架構網絡下,每塊 GPU 的 NVIDIA Quantum-2 CX7 InfiniBand 性能可以達到 400 Gb / s,每台虛擬機可以達到 3.2Tb / s。
此外,考慮到訓練大型語言模型(llm)需要大量的圖形處理器(GPU)連接,這些機器允許微軟的客戶創建可擴展到任何規模的基礎設施,以執行任何人工智能任務。
據悉,去年3月,英偉達在其GTC開發者大會上發布了H100 GPU。值得一提的是,花旗于本周一曾表示,英偉達是芯片行業“最受歡迎”的股票之一。