在人工智能領域的諸多不確定因素中,有一件事似乎一直很清楚:更大、更昂貴的系統能產生更好的結果。因此,像OpenAI這樣的模型開發商不斷籌集1570億美元的資金,以及大型科技集團的鉅額資本支出。
然而,現在這種確定性的核心似乎正在瓦解。由於沒有新的數據來訓練軟件,研究人員正在努力通過投入更多的資源來獲得更智能的輸出。淘金熱階段可能即將結束,爲更靈活的新競爭者打開了大門。
智通財經APP注意到,技術專家直到最近才認同人工智能是“可擴展的”,這意味着越大越好。2020年,OpenAI的研究人員表明,當使用更多的數據、計算能力和參數(就像系統的旋鈕和刻度盤)進行訓練時,所謂的大型語言模型會以穩定的速度改進。
這引發了芯片和數據中心的軍備競賽,分析師預計,到2025年,僅微軟一家公司的資本支出就將達到640億美元,是通用汽車的六倍。Alphabet、亞馬遜、Meta平臺、微軟和英偉達的總市值比2022年11月OpenAI發佈ChatGPT時高出8萬億美元。
人工智能擴展定律的證據似乎正在瓦解。尖端系統已經吸收了世界上大部分有用和可用的訓練數據。多個人工智能實驗室在改進下一代模型方面遇到了問題。Alphabet首席執行官皮查伊在最近的一次活動中表示,領先的模型已經達到了類似的性能水平,現在進一步改進的難度更大了。OpenAI的奧特曼在同一場會議上表示,“沒有牆”,同時他承認,AI規模擴大帶來的更容易的收益已經消退。
一些研究人員希望未來的進步將來自更好的算法,而不是歷史上的暴力破解方法。一種被稱爲“測試時間計算”的技術專注於增強推理過程,即客戶使用人工智能系統的時間。給模型額外的時間來發現模式或使用新的數據可能會產生更好的結果,也許可以讓機器把大問題分解成小問題。雖然很有希望,但與人工智能支持者一直在推動的以指數方式改進軟件的願景相比,這是一個退步。一旦一個模型考慮了一個問題的所有可能的答案,增加更多的時間並不一定有幫助。如果人工智能系統耗時太長,用戶也可能會去別處尋找答案。
經濟放緩的傳言並未影響Alphabet、亞馬遜、Meta、微軟和英偉達的股價。一個新時代很可能會以不同的方式影響玩家。
可以說,英偉達的損失最大。黃仁勳的公司受益於一股搶購硅片的熱潮,埃隆·馬斯克的xAI公司最近計劃建造一臺擁有100萬個圖形處理單元芯片的超級計算機,是目前已經非常龐大的超級計算機的10倍。未來,公司可能更願意使用更專業、更便宜的半導體,這將使英偉達3.3萬億美元的股權價值面臨風險。
OpenAI和Anthropic等模型開發商可能會感到矛盾。積極的一面是,如果他們不再需要訓練越來越大的系統,他們的財務報表將會受益。另一方面,人工智能規模的終結將削弱這些公司的部分樂觀理由,即OpenAI或Anthropic的專有模型將變得越來越智能,並最終取代世界上大部分現有的軟件。
大型企業的情況也同樣好壞參半。好消息是,微軟的和同行們可能不再面臨眼看着競爭對手開發出一個能夠執行任何任務的超級智能巨型模型的生存風險。如果人工智能無限擴展,這種風險可能是可以想象的。輸掉這場競賽將意味着錯過可能是有史以來最偉大的創造財富的技術。因此,雖然頭獎現在可能變小了,但被更強大的競爭對手碾壓的風險也變小了。
從這種擔憂中解脫出來後,納德拉和皮查伊可以放下油門,等待更多的收入來證明所有的支出是合理的。股東們會很高興:過去鐵路和電信行業的繁榮表明,對新技術的過度熱情是危險的。就連扎克伯格也承認,企業可能已經過度投資了。根據研究機構Epoch.ai的數據,最大模型的計算成本每8個月翻一番,訓練功耗每年翻一番。
然而,資本支出軍備競賽的結束也可能意味着進入門檻的降低。如果龐大的計算能力不再是主流,那麼新的初創公司應該能夠以最低的成本生產出具有競爭力的人工智能產品,或許可以基於扎克伯格的Meta提供的開源模型進行設計。可以想象,一股新的企業軟件業務浪潮將對廣泛使用的系統進行調整,以服務於特定行業,比如法律專業人士或編碼人員。Y Combinator是一家爲剛起步的硅谷公司提供資金和孵化的公司,其中有數百家潛在的新挑戰者。
無論哪家公司獲勝,如果人工智能培訓成本停止螺旋式上升,對投資者來說可能都是一個好消息。這可能是由於最近推理的價格急劇下降,或者當客戶使用已經訓練好的模型時所產生的費用。
三年前,處理100萬個代幣(一個數據單位)的成本爲60美元。據風險投資公司安德森·霍洛維茨稱,現在的成本爲6美分。成本緊縮應該有助於採納,讓早期的進展跡象得以擴散。例如,Meta的季度廣告收入自Chatgpt之前的時期以來增長了46%,這可能是因爲更好的廣告定位,而運營成本僅增長了5%。淘金熱之後的艱鉅任務是證明投資回報——並證明投資者令人眼花繚亂的預期是合理的。