FX168財經報社(北美)訊Etched公司近日發佈了有史以來速度最快Transformer芯片——Sohu。這款芯片由21歲的華裔哈佛輟學生創立的初創公司研發，專門用於加速大規模語言模型(LLM)的推理運算，展示了尖端創新和卓越性能。
(幾位創始人，來源：澎湃）
Sohu芯片的設計體現了頂尖的技術突破，專爲重新定義AI計算和應用的可能性而打造。其先進的處理能力使其能夠以前所未有的速度處理複雜的計算。在運行Llama 70B模型時，Sohu每秒可以生成超過50萬個token，相當於20塊H100芯片或10塊B200芯片。8xSohu服務器的性能甚至可以替代160塊H100 GPU，展示了其卓越的效率和功能。
Sohu芯片的架構經過精心設計，旨在最大程度提高效率和速度，爲AI硬件樹立了新標準。它將高效的處理框架與專爲深度學習和神經網絡應用量身定製的架構相結合。這種優化使其能夠以最小的延遲處理大量數據負載，成爲實時數據處理和決策領域的變革者。
Etched公司在打造Sohu芯片的過程中投入了數年時間進行嚴謹的研究和開發，確保其滿足當代人工智能應用的苛刻要求。該芯片的性能指標令人印象深刻，每秒可執行高達1,000萬億次運算(TOPS），遠超市場上其他人工智能芯片的能力。
除了速度，Sohu芯片還具有極高的能效。速度與效率之間的平衡使企業能夠增強其AI能力，同時避免過高的能源成本。該芯片僅消耗10瓦的功率，同時提供無與倫比的性能，是希望優化AI運營的企業的理想選擇。
Sohu芯片的推出將通過實現更復雜的人工智能應用，徹底改變各個行業。例如，該芯片能夠快速準確地處理大量數據集，顯著改善醫療診斷和個性化治療方案。Sohu的實時處理能力對於開發自動駕駛汽車至關重要，因爲在汽車行業中，瞬間決策至關重要。
Etched致力於推動AI技術的發展，這一點從Sohu芯片的穩健設計和卓越性能中可見一斑。通過解決速度和效率的關鍵挑戰，Sohu爲AI硬件樹立了新標杆，爲更先進、更強大的AI解決方案鋪平了道路。Sohu芯片每秒可執行10千億次浮點運算，凸顯了其在改變行業和改善廣泛應用成果方面的潛力。
Sohu芯片的影響不僅限於單個行業，還將加速先進人工智能系統的開發和部署。其強大的處理能力使預測分析、自然語言處理和圖像識別取得了突破，推動了高度依賴人工智能技術的領域的創新。隨着人工智能不斷融入日常生活的各個方面，Sohu芯片將成爲推動這一技術發展的關鍵創新。
總之，Etched的Sohu AI芯片是AI技術的革命性進步，提供了無與倫比的速度和效率。憑藉每秒高達1,000萬億次運算的能力，同時功耗僅爲10瓦，Sohu爲AI硬件樹立了新標準。它的開發標誌着該領域的一個重要里程碑，對衆多行業具有深遠的影響。隨着Sohu融入各種應用程序，其影響將遍及全球，推動創新並增強AI系統的功能。