智通財經APP獲悉,歐盟議會週三通過《人工智能法案》(AI Act)後,歐盟正在爲快速發展的人工智能領域制定最全面的保護和管理機制。在美國沒有任何關於AI的實質立法的情況下,這一具有里程碑意義的AI規則可能將爲西方世界,乃至全球如何管理人工智能定下基調,歐洲也將成爲第一個爲人工智能的使用制定明確法案的地區。但該法案的通過正值企業擔心該法案偏離得太遠,而數字監管機構則表示該法案走得還不夠激進,歐洲一些民間社會組織則擔心大型科技公司影響力越來越大。
整體來看,這項歐洲議會批准的立法面臨着來自不同方面的批評和擔憂。一些公司認爲法案的規定過於嚴格,可能會限制技術發展和創新,而數字監管機構和一些民間組織則認爲這些規定還不夠強硬,無法充分應對人工智能發展可能帶來的各種風險和挑戰。此外,還有擔心大型科技公司及歐洲本地企業在法案最終實施文本的形成過程中施加了過大的影響力,導致一些關鍵的AI系統被豁免於嚴格的規定之下。
儘管這份AI法案的正式通過是全球政府監管AI發展方面的一個重要進步,但法律的最終實施、監管機構的建立和執行力度仍然是接下來需要重點關注和努力的領域。
歐盟內部市場專員蒂埃裏·布雷頓(Thierry Breton)在一份聲明中表示:“歐洲現在是可信賴人工智能體系和規則的全球標準制定者。”這份人工智能法案在成員國簽署後(通常是一種形式),並在歐盟官方期刊上發表後,就將正式成爲法律。
據瞭解,這項全新的法律旨在解決人們對這種快速發展的技術帶來的偏見、隱私和其他風險的擔憂。該立法將禁止在工作場所和學校使用人工智能來檢測情緒,並限制人工智能在篩選工作申請等高風險情況下的使用範圍。它還將對生成式人工智能工具施加全球第一個法律層面上的限制,去年,隨着ChatGPT的普及,生成式人工智能工具引起了全世界的關注。
在長達35個多小時的馬拉松式談判後,歐盟的官員們達成了突破性的臨時協議,這三個月來,該法案引發了科技企業的濃厚擔憂情緒。
在去年,隨着談判進入最後的階段,法國和德國政府反對監管生成式人工智能的一些最嚴格的想法,認爲這些規則將損害法國Mistral AI和德國Aleph Alpha GmbH等歐洲AI初創企業。歐洲企業觀察組織(Corporate Europe Observatory, CEO)等民間社會組織對於大型科技公司和歐洲的一些科技公司在最終實施文本形成過程中的影響表示擔憂。
包括CEO以及遊說控制在內的監管機構在一份聲明中寫道:“這種單方面的影響意味着‘通用人工智能’在很大程度上不受任何實質規則的約束,只需要遵守一些透明度層面的義務。”他們指的是能夠執行更廣泛任務的人工智能系統。
Mistral AI最近宣佈與微軟公司(Microsoft Corp.)合作,這引起了一些歐盟議員的擔憂。參與起草該法案的議會助理、現任聯合國人工智能政策顧問的凱·澤納(Kai Zenner)寫道,此舉在戰略上是明智的,對這家法國初創公司來說“甚至可能是必要的”,但他表示,“歐盟立法者可能又被耍了”。
該法案的主要起草人、議員白蘭度·貝尼菲(Brando Benifei)表示,結果不言自明。他在週三的新聞發佈會上表示:“這項立法以明確的標準,明確定義了最強大的大語言模型的安全需求,所以很明顯,我們是站在自己的立場上的。”
美國和歐洲企業也表示擔心,該法案未來將限制這些企業在歐盟的競爭力。
“與美國和中國等行業巨頭相比,歐盟的數字科技產業有限,投資相對較低,因此歐盟在技術主權和人工智能領導方面的雄心壯志面臨相當大的障礙,”卡內基歐洲智庫研究員羅盧卡·切爾納託尼寫道。
議員們在星期二的辯論中承認,還有很多工作要做。歐盟正在設立其人工智能辦公室,這是歐盟委員會內的一個獨立機構。在實踐中,該辦公室將是關鍵的AI法案執行力量,有能力要求開發生成式人工智能的公司提供一些私密信息,並可能禁止某一系統在歐盟運營。
歐洲議會議員德拉戈斯·圖多拉奇(Dragos Tudorache)是該法案的主要作者之一,他表示:“我們在管理數字領域的授權中通過的規則——不僅僅是《人工智能法案》——是真正具有歷史意義的、開拓性的人工智能規則。”“但如何讓它們都以預期的效果和諧地進行實施,並將歐洲變成未來的數字強國,將是我們一生都需要面臨的考驗。”