智通財經APP獲悉，有着“OpenAI勁敵”之稱的人工智能初創公司Anthropic即將成爲首批使用谷歌新一代TPU芯片的公司之一，在最近達成雲計算服務協議後，此舉進一步加深雙方的合作關系。兩家公司當地時間周叁表示，Anthropic將部署谷歌Cloud TPU v5e芯片，爲其名爲Claude的大語言模型(LLM)提供硬件支持。
ChatGPT最強競品Claude，以及類似ChatGPT的生成式AI應用程序通常使用大量數據來訓練人工智能界面，讓它們回答問題並生成基于人類邏輯的對話文本，而生成式AI成功運行的背後離不開最核心基礎設施——AI芯片的支撐，目前這一領域幾乎被英偉達GPU所壟斷。美國銀行和花旗統計數據顯示，英偉達在AI芯片領域份額達到驚人的90%。
谷歌TPU——爲AI而生
但是，谷歌正在將“谷歌TPU”這一用于谷歌內部服務器的AI專用芯片推向全球各大科技公司。目前，谷歌正在大規模使用TPU芯片來支持旗下應用産品，比如聊天機器人巴德以及谷歌雲平台。當前，谷歌高達90%以上的人工智能訓練工作都在使用這些芯片，TPU芯片體系支撐了包括搜索引擎在內的谷歌主要業務。
谷歌雲平台首席執行官Thomas Kurian表示，最新款的TPU芯片正在成爲谷歌雲的最大賣點之一。除了Anthropic，其他在人工智能領域備受矚目的初創公司，如Hugging Face和AssemblyAI也在大規模使用谷歌TPU芯片。
從技術層面上來看，與英偉達A100/H100等通用型GPU 相比，谷歌TPU設計初衷正是專注于深度學習領域，尤其是全面加速神經網絡訓練和推理效率。英偉達的A100和H100，它們屬于廣義上的通用型GPU，而不僅僅局限于深度學習和人工智能領域。這些GPU具有通用計算能力，適用于多種計算工作負載，包括但不限于：高性能計算(HPC)、深度學習以及大規模數據分析。
與英偉達通用型GPU相比，谷歌TPU采用低精度計算，在幾乎不影響深度學習處理效果的前提下大幅降低了功耗、加快運算速度，尤其對于中型LLM設計者來說完全夠用，因此他們可能不需要依賴高性能的英偉達A100/H100。同時，TPU 使用了脈動陣列等設計來優化矩陣乘法與卷積運算。谷歌TPU追求專注于AI訓練和推理，因此精簡化部分設計架構，這也是TPU功耗、內存帶寬和FLOPS都明顯低于英偉達H100的部分原因。
谷歌新一代TPU芯片——Cloud TPU v5e專爲提供大中型訓練與推理所需的成本效益和性能而設計。TPU v5e Pods能夠平衡性能、靈活性和效率，允許多達256個芯片互連，聚合帶寬超過400 Tb/s和100 petaOps的INT8性能，使對應的平台能夠靈活支持一系列推理和訓練要求。
與Cloud TPU v4相比，TPU v5e可爲大語言模型和生成式AI模型提供每美元花費中高達2倍的訓練性能和2.5倍的推理性能。Cloud TPU v5e的成本不到TPU v4的一半，但可以讓更多企業訓練和部署更大、更複雜的AI模型。總體來看，與TPU v4相比，TPU v5e每美元的性能提高了2.7倍。
科技巨頭們開啓“AI代理人競爭”：微軟扶持OpenAI 谷歌與亞馬遜選中Anthropic
隨着構建更大規模人工智能模型的競爭趨勢升溫，谷歌等科技巨頭正在與該領域前沿的初創公司建立密切的合作關系。據知情人士透露，Anthropic最近同意在未來四年向谷歌旗下的谷歌雲服務上花費逾30億美元。
谷歌方面，除了提供新一代TPU，該科技巨頭此前已承諾向這家初創公司投資20億美元，據知情人士透露，在最新一輪融資中，Alphabet旗下谷歌向Anthropic投資約5億美元，並承諾未來再投資約15億美元，這筆投資是在今年早些時候谷歌向Anthropic投入5.5億美元的基礎上所進行。
Anthropic自2021年成立以來一直使用谷歌雲服務。兩家公司表示，作爲新協議的一部分，Anthropic將更多地使用基于谷歌雲平台的基礎設施和安全功能。
“我們對TPU的效率感到非常興奮。”Anthropic首席執行官Dario Amodei表示。“這些已經開始顯示出我們能夠獲得的收益。”
谷歌雲服務領域的競爭對手——亞馬遜，同樣是Anthropic的支持者。亞馬遜曾在一份文件中表示，它已經以可轉換票據的形式向Anthropic投資了12.5億美元，並有能力以第二筆票據的形式再投資27.5億美元，這一選擇權將于明年第一季度到期。亞馬遜還與Anthropic達成協議，後者將使用AWS的雲服務和自研芯片。谷歌和亞馬遜與Anthropic協議的債務結構則未被媒體知悉。
亞馬遜還表示，Anthropic計劃“在AWS上運行其大部分工作負載”。Anthropic首席執行官Amodei則強調，Anthropic正在采取“多雲”的方式，這意味着它不會與任何一家雲服務供應商進行獨家性質的合作。
谷歌雲平台首席執行官Thomas Kurian表示，他並不爲Anthropic與AWS的合作感到困擾。他表示:“大公司總是希望選擇多雲體系——這有助于他們使用每種雲服務的最佳功能。”“我們已經習慣了與其他雲提供商競爭和合作。”
提到 OpenAI 的競爭對手，Anthropic 往往被認爲是最具潛力的對手。Anthropic由曾負責OpenAI風靡全球的ChatGPT研發工程的研究副總裁Dario Amodei所創立，Amodei帶着OpenAI另外5名負責GPT模型研發的員工一起出走，5名員工中的Tom Brown曾領導GPT-3模型的整個開發過程。
OpenAI和Anthropic都在用他們獨家研發的前沿生成式人工智能技術構建聊天機器人。相比于ChatGPT，Anthropic所研發的聊天機器人Claude特別強調功能全面且回答更具責任性的生成式人工智能，以及大幅度減少AI技術中的偏見和歧視問題。
在一些AI業內人士看來，這一切看似是 OpenAI 與 Anthropic 的競爭，實則 OpenAI 背後的最大股東微軟與Anthropic 重要支持力量谷歌和亞馬遜之間的“雲計算戰爭“以及聚焦未來技術的”生成式AI大戰”。這叁大科技巨頭試圖借助這些在AI領域有重大影響力的初創公司來進一步擴大雲服務市場規模，以及期望自身第一時間能夠捕捉最前沿的AI技術。