智通財經APP獲悉，高通(QCOM.US)和Meta Platforms(META.US)宣布，從2024年開始，Meta的新大型語言模型Llama 2將在采用高通芯片的手機和個人電腦上運行。
到目前爲止，大型語言模型主要在采用英偉達(NVDA.US)圖形處理器(GPU)的大型服務器群中運行，因爲該技術對計算能力和數據的需求巨大，這提振了英偉達的股價，該股今年以來上漲了逾220%。
但高通等爲手機和個人電腦制造尖端處理器的公司在很大程度上錯過了人工智能的繁榮。到目前爲止，高通股價在2023年上漲了約10%，落後于納斯達克指數36%的漲幅。
周二的聲明表明，高通希望將其處理器定位爲非常適合人工智能，但要“在邊緣”或設備上運行，而不是“在雲端”。如果大型語言模型可以在手機上運行，而不是在大型數據中心運行，這可能會降低運行人工智能模型的巨大成本，並可能帶來更好、更快的語音助手和其他應用程序。
高通認爲，在高通設備上提供Meta的開源Llama 2模型將使智能虛擬助手等應用成爲可能。Meta的Llama 2可以做許多與ChatGPT相同的事情，但它可以被打包成一個更小的程序，這使得它可以在手機上運行。
高通的芯片包括一個張量處理單元(TPU)，非常適合人工智能模型所需的各種計算。然而，與配備尖端GPU的數據中心相比，移動設備上可用的處理能力相形見绌。
Meta的Llama之所以引人注目，是因爲Meta公布了它的“權重”，這是一組有助于管理特定人工智能模型如何工作的數字。這樣做將允許研究人員以及企業在自己的計算機上使用人工智能模型，而無需征得許可或付費。其他著名的人工智能模型，如OpenAI的GPT-4或谷歌的Bard，都是閉源的，它們的權重也是嚴格保密的。
高通過去曾與Meta密切合作，特別是在Quest虛擬現實設備的芯片方面。高通還展示了一些在其芯片上緩慢運行的人工智能模型，比如開源圖像生成器Stable Diffusion。