智通財經APP獲悉,OpenAI高管當地時間週二在世界經濟論壇(World Economic Forum)上接受採訪時表示,OpenAI開始與美國國防部合作開發人工智能工具,其中包括開源的網絡安全工具。火爆全球的AI聊天機器人ChatGPT的開發商OpenAI,可謂悄無聲息地撤銷了對ChatGPT及該公司潛在的人工智能工具的“軍事使用禁令”,刪除了禁止將OpenAI的人工智能技術用於軍事用途的相關規則條文。
據瞭解,OpenAI全球事務副總裁安娜•馬坎朱週二在世界經濟論壇上與OpenAI首席執行官薩姆•奧特曼一起接受媒體採訪時表示,這一規則的轉變正值OpenAI開始與美國國防部合作開發全新的人工智能工具,包括開源網絡安全工具。
至少在上週三之前,OpenAI的政策聲明頁面明確指出,該AI初創公司不允許將其人工智能模型用於“具有高度身體傷害風險的活動”,如武器開發或軍事和戰爭用途。但是最新政策聲明顯示,OpenAI已經刪除了對軍方這一措辭的具體提及,儘管OpenAI政策仍然規定:用戶不應該使用我們(OpenAI)的服務來傷害自己或他人”,其中包括“開發或使用武器”。
OpenAI全球事務副總裁馬坎朱接受採訪時簡短表示:“因爲我們以前基本上是全面禁止各種用於軍事等具有破壞性的途徑,許多人認爲這將禁止許多具體的用例,人們認爲這些禁止用例與我們希望在世界上看到的非常一致。但OpenAI堅持禁止使用該公司技術開發破壞性的武器、破壞財產或傷害人民。”但是馬坎朱拒絕說明“禁止傷害用途”的表述是否包括所有軍事用途。
OpenAI沒有立即迴應多方媒體對於與美國軍方合作的最新消息的置評請求。
美國網絡安全公司Trails of Bits的機器學習和自主系統安全業務負責人赫拉夫(Heidy Khlaaf)認爲,OpenAI的新政策可能是想在確保法律合規的基礎之上提供更多的靈活性,“發展武器以及從事與軍事有關的部分活動在不同程度上可能是合法的,這項調整對AI安全的潛在影響非常大。”
多位美國軍方的領導人此前已對AI技術表現出濃厚興趣,美國國防部副部長凱瑟琳·希克斯2023年11月曾表示,AI是“以作戰人員爲中心的全面創新方法的關鍵組成部分”。但希克斯也承認,當前AI體系還不夠成熟,不符合軍方要求的AI道德原則。
有分析師表示,OpenAI這一決定其實並不令人感到意外,畢竟涉及國防業務將更加有利可圖。作爲OpenAI最大的投資者,微軟也爲美國國防部和其他政府部門提供了一些技術服務。
多年來,全球科技公司開發軍用技術不斷引發巨大爭議,科技工作者——尤其是從事人工智能工作的研發人員,公衆對於他們開發軍用技術的擔憂凸顯出這一爭議點。
在數千名谷歌員工抗議五角大樓的Maven項目(Project Maven)後,幾乎所有與軍事合同有關的科技巨頭的員工都表達出濃厚的擔憂情緒。Maven項目原計劃將使用谷歌最新的人工智能工具分析無人機監控錄像。
OpenAI的大股東——微軟的員工們曾抗議一份價值4.8億美元的陸軍合同,該合同將爲士兵提供增強現實(AR)頭顯,1500多名亞馬遜和谷歌員工簽署了一封信,抗議與以色列政府和軍方簽訂的一份價值12億美元的多年期合同,根據該合同,這兩家美國科技巨頭本應該提供雲計算服務、新型人工智能工具和數據中心等高科技服務。
“AI+軍事用途”前景廣闊
在業內人士以及一些華爾街分析師看來,AI在軍事領域的應用前景十分廣闊,涵蓋了多個方面,包括作戰、情報分析、無人系統、訓練等,ChatGPT等生成式AI工具在軍事領域的潛在應用場景則包括情報分析、虛擬戰場訓練、戰術仿真模擬等。
比如,利用AI技術開發智能戰鬥機,這種戰鬥機能夠自主執行戰術任務、規遍空中領域,並在複雜環境中作出實時決策。AI技術可謂全面提高了作戰效能和反應速度。還包括利用機器學習和自然語言處理,加速情報分析過程,人工智能工具能夠從大量數據中提取關鍵信息,幫助軍方更快速、準確地做出決策。
ChatGPT這類生成式AI工具結合軍用的前景同樣十分廣闊。比如ChatGPT等生成式AI可用於創建高度逼真的虛擬戰場訓練場景,這些場景可以模擬各種複雜的戰術情境,幫助軍人提高應對不同場景的能力。利用生成式AI,可以自動生成關於特定情報數據的詳細報告,而這有助於全面加速情報分析過程,提供更全面的信息支持決策。ChatGPT等生成式AI在自然語言處理方面的技術進展可以用於開發軍用智能助手,幫助各部隊更自然地與總部技術系統進行交流,提高信息傳遞的效率。