智通財經APP獲悉,據知情人士透露,美國人工智能研究公司OpenAI創始人奧爾特曼(Sam Altman)上週突遭解僱的四天前,有幾位研究人員致信董事會警告,一項人工智能技術上取得進展,能力之強大恐怕威脅全人類。
兩名知情者稱,奧爾特曼被開除的導火線之一,是公司內部研究人員致函董事會,警告奧爾特曼專注於構建通用人工智能(AGI)的Q*研究計劃取得了突破性進展。他們擔心繼續發展下去將建構出超越人類智慧的電腦,對全人類構成威脅。
其中一位消息人士稱,新的 Q* AI 模型可以解決某些數學問題,儘管還處於小學水平。這是一項重大突破,因爲能夠解決只有一個答案的數學問題表明人工智能模型可以具有更強的推理能力。
OpenAI 的研究人員標記了人工智能模型的技能以及由此產生的潛在危險。研究人員還介紹了人工智能科學家團隊的工作,該團隊正在研究優化現有人工智能模型以執行科學工作。
重返OpenAI
奧爾特曼17日遭解僱,19日返回OpenAI總部與原董事會談判迴歸事宜,據悉條件之一便是解散原董事會。當天深夜,微軟CEO薩蒂亞·納德拉宣佈奧爾特曼和一同離職的OpenAI前總裁、聯合創始人格雷格·布羅克曼將加盟微軟,領導新的高級人工智能研究團隊。納德拉還向OpenAI員工伸出“橄欖枝”,用現金鼓勵他們一併跳槽。
20日,OpenAI大約770名員工中超過95%發表聯名信,以辭職相威脅,要求奧爾特曼恢復原職。奧爾特曼一天後和布羅克曼成功迴歸OpenAI。納德拉也對OpenAI人事變動表示歡迎。