智通財經APP獲悉，在人工智能(AI)技術快速發展的同時，通過這種新技術生成的深度僞造(deepfakes)信息在大型社交平臺上的傳播及其可能帶來的風險引發了許多人的擔憂。AI深度僞造最常見方式是AI換臉技術，以及語音模擬、人臉合成、視頻生成等。它的出現使得篡改或生成高度逼真且難以甄別的音視頻內容成爲可能，觀察者最終無法通過肉眼明辨真僞。
這種AI深度僞造信息通常在社交媒體上傳播，並被用於詐騙。例如，此前，一則由AI深度僞造生成的假泰勒·斯威夫特(Taylor Swift)帶貨廣告在社交媒體Facebook上傳播。在這則廣告中，由AI深度僞造生成的假泰勒·斯威夫特坐在鋼琴前，向大家推銷法國高端炊具品牌Le Creuset，並表示作爲她的“新年大放送”，會向20位粉絲免費贈送一套炊具。當受害者被引導至虛假網站後，會被要求支付9.96美元的運費，但號稱免費贈送的廚具不會真的送出去。
美國商業改善局去年曾警告，通過深度僞造進行的詐騙正在增加。該機構表示：“在購買商品之前，請花一點時間重新檢查帖子和社交媒體賬戶，這些照片和視頻很可能是假的，如果你購買了不合格或不存在的產品，你就會損失金錢(通常比你想象的還要多)。”
AI深度僞造還可能生成與政治人物有關的虛假音視頻內容，通過在Facebook、X(前身爲Twitter)和TikTok等社交媒體上廣泛傳播並擾亂大選。儘管OpenAI首席執行官Sam Altman在本週的一次會議上表示，該公司“非常專注於”阻止ChatGPT等工具被政治濫用，但社交媒體在這些深度僞造信息的傳播方面發揮的重要作用仍值得密切關注。
對於Facebook、X和TikTok等社交媒體來說，如何應對深度僞造信息是一個重要課題。Facebook此前已選擇增加廣告和頁面的透明度，這有助於讓研究人員、記者或者任何人扮演監督者，以確保廣告不會被濫用於傳播錯誤信息、壓制投票或者其他粗略的行爲。這一舉動值得X和TikTok學習。此外，這些社交媒體還需要更新其對深度僞造信息的政策，並在監管利用政治人物的深度僞造廣告方面做得更好。