FX168財經報社(北美)訊 來自OpenAI和谷歌深度思維(Google DeepMind)等公司的一羣首席執行官和科學家警告稱,現在人工智能與核衝突和疾病一樣對人類構成了威脅。
總部位於舊金山的非營利組織人工智能安全中心(Center for AI Safety)發表聲明稱:「與流行病和核戰爭等其他社會規模的風險一樣,減輕人工智能帶來的滅絕風險應該成爲全球的優先事項。」
超過350名人工智能高管、研究人員和工程師,包括OpenAI的Sam Altman、谷歌DeepMind的Demis Hassabis和Anthropic的Dario Amodei在這份只有一句話的聲明上籤了名。
Geoffrey Hinton和Yoshua Bengio也簽署了這份文件,他們因在神經網絡方面的工作獲得了圖靈獎,經常被稱爲人工智能的「教父」。本月初Hinton辭去了谷歌的職務,他暢所欲言地談論了這項技術的潛在危害。
這份聲明發布之前,大型科技公司推出的一些人工智能產品提高了人們對人工智能潛在缺陷的認識,包括傳播錯誤信息、延續社會偏見和取代工人,呼籲對整個行業進行監管。歐盟立法者正在推進歐洲的人工智能法案,而美國也在探索監管法案。
微軟支持的OpenAI ChatGPT於去年11月推出,被視爲人工智能廣泛應用的領頭羊。本月Altman首次在美國國會作證,呼籲以許可證的形式進行監管人工智能。
今年3月特斯拉CEO埃隆·馬斯克和其他1000多名研究人員和科技高管在公開信中呼籲將先進人工智能系統的開發暫停6個月,停止他們所謂的「軍備競賽」。這封信的做法受到了批評,其中包括一些研究人員在信中引用的理由,而其他人則不同意暫停這項技術的建議。
人工智能安全中心在一份簡短的聲明中表示,希望避免分歧。「我們不想推行一個包含30種潛在干預措施的大名單,」執行董事Dan Hendrycks說:「當這種情況發生時,反而會稀釋信息。」
微軟首席技術官Kevin Scott和首席科學官Eric Horvitz在週二(5月30日)簽署了這份聲明,前Deepmind聯合創始人、目前經營初創公司Inflection AI的Mustafa Suleyman也簽署了這份聲明。