🔥 InvestingPro 優質AI精選股票現在折扣高達50%獲取優惠

AI化身“吞電巨獸” 內存計算或成省電新招

發布 2024-4-3 下午03:23
AI化身“吞電巨獸” 內存計算或成省電新招
INTC
-
MSFT
-
NVDA
-
TSM
-

智通財經APP獲悉,隨着人工智能(AI)的繁榮,作爲AI基礎設施核心組成部分的電力資源正在引起越來越多的關注。毫無疑問的是,AI是一個高耗能的領域,數據中心、超級算力中心都堪稱“吞電巨獸”。有專家推算認爲,到2027年,AI行業每年的電量消耗可能在85到134太瓦時之間,這幾乎相當於荷蘭一個國家的年度電力需求。國際能源署(IEA)此前的一份報告也指出,由於人工智能和加密貨幣的需求,數據中心的用電量將在不久的將來大幅增加。

不少行業大佬也都AI可能面臨的能源危機發出警告。今年1月,OpenAI首席執行官薩姆·奧特曼承認,AI行業正面臨能源危機。他警告稱,未來AI需要能源突破,因爲AI消耗的電力將遠遠超出人們的預期。特斯拉(TSLA.US)首席執行官馬斯克在2月底出席一場會議時也表示,芯片短缺的情況可能已經過去,但AI和電動汽車正在以如此迅猛的速度擴張,明年全球將面臨電力和變壓器供應緊張的問題。英偉達(NVDA.US)首席執行官黃仁勳更是直言:“AI的盡頭是光伏和儲能!如果只考慮計算,我們需要燒掉14個地球的能源,超級AI將成爲電力需求的無底洞。”

一個關鍵原因在於,AI需要大量的數據,而數據在存儲芯片和處理器之間來回傳輸的這一過程需要消耗大量電力。因此,至少十年來,研究人員一直試圖通過製造可以在存儲數據的地方處理數據的芯片來節省電力。這個過程通常被稱爲“內存計算”。

內存計算目前仍面臨着技術上的挑戰,現在剛剛走出研究階段。而隨着AI的高耗能引發了人們對其經濟可行性和環境影響的嚴重質疑,能夠提高AI能源效率的技術可能會帶來巨大回報。這使得內存計算成爲越來越令人興奮的話題。臺積電(TSM.US)、英特爾(INTC.US)和三星電子等主要芯片製造商都在研究內存計算。OpenAI首席執行官奧特曼等個人、微軟(MSFT.US)等公司以及不少政府附屬實體都投資了從事這項技術的初創公司。

這項技術是否會成爲AI未來的重要組成部分還無法確定。通常,內存計算芯片對溫度變化等環境因素很敏感,而這可能會導致計算錯誤。初創公司們正在研究各種方法以改善這一點。然而,更換採用新技術的芯片往往都很昂貴,而且客戶通常會猶豫不決,除非他們對重大改進有信心。初創公司也必須說服客戶,新技術帶來的好處是值得冒險的。

目前,內存計算初創公司還沒有着手AI計算中最困難的部分,即訓練新模型,這一過程主要由英偉達等公司設計的AI芯片來處理。內存計算初創公司似乎不打算直接與英偉達展開競爭,它們的目標是將業務建立在推理上,即利用現有模型接收提示並輸出內容。推理不像訓練那麼複雜,但其規模也很龐大。這意味着專門爲提高推理效率而設計的芯片可能會有一個前景良好的市場。

內存計算公司仍在摸索其產品的最佳用途。總部位於荷蘭的內存計算初創公司Axelera正瞄準汽車和數據中心的計算機視覺應用。總部位於德克薩斯州奧斯汀的Mythic的支持者認爲,內存計算在短期內是AI安全攝像頭等應用的理想選擇,但最終希望它們能用於訓練AI模型。

行業智庫Semiconductor Research Corp.的首席科學家Victor Zhirnov表示,AI能源使用的巨大規模讓每個人都迫切需要研究如何提高這項技術的效率。他直言:“AI迫切需要節能的解決方案,否則它會很快自殺的。”

最新評論

風險聲明: 金融工具及/或加密貨幣交易涉及高風險,包括可損失部分或全部投資金額,因此未必適合所有投資者。加密貨幣價格波幅極大,並可能會受到金融、監管或政治事件等多種外部因素影響。保證金交易會增加金融風險。
交易金融工具或加密貨幣之前,你應完全瞭解與金融市場交易相關的風險和代價、細心考慮你的投資目標、經驗水平和風險取向,並在有需要時尋求專業建議。
Fusion Media 謹此提醒,本網站上含有的數據資料並非一定即時提供或準確。網站上的數據和價格並非一定由任何市場或交易所提供,而可能由市場作價者提供,因此價格未必準確,且可能與任何特定市場的實際價格有所出入。這表示價格只作參考之用,而並不適合作交易用途。 假如在本網站內交易或倚賴本網站上的資訊,導致你遭到任何損失或傷害,Fusion Media 及本網站上的任何數據提供者恕不負責。
未經 Fusion Media 及/或數據提供者事先給予明確書面許可,禁止使用、儲存、複製、展示、修改、傳輸或發佈本網站上含有的數據。所有知識產權均由提供者及/或在本網站上提供數據的交易所擁有。
Fusion Media 可能會因網站上出現的廣告,並根據你與廣告或廣告商產生的互動,而獲得廣告商提供的報酬。
本協議以英文為主要語言。英文版如與香港中文版有任何歧異,概以英文版為準。
© 2007-2024 - Fusion Media Limited保留所有權利