FX168財經報社(北美)訊 埃隆·馬斯克的AI聊天機器人Grok於週二（8月13日）開始允許用戶從文本提示生成AI圖像，並將其發佈到社交媒體平臺X上。#AI熱潮#
幾乎立刻，人們開始使用該工具在社交媒體上充斥着政治人物的假圖像，如前總統唐納德·特朗普、副總統卡馬拉·哈里斯以及馬斯克自己——其中一些圖像明顯虛假但卻令人不安，比如參與9/11襲擊的場景。
與其他主流AI照片工具不同，由馬斯克的人工智能初創公司xAI開發的Grok似乎沒有太多的安全限制。
例如，在對該工具的測試中，CNN輕鬆地讓Grok生成了政客和政治候選人的虛假、逼真的圖像，若脫離上下文，可能會誤導選民。該工具還創建了公衆人物的溫和但令人信服的圖像，例如馬斯克在公園裏吃牛排。
（圖片來源：yahoo finance）
一些X用戶發佈了他們聲稱由Grok創建的圖像，顯示知名人物吸毒等圖像。在一則被瀏覽近40萬次的帖子中，一位用戶分享了一張由Grok創建的圖像，顯示特朗普從卡車頂端探出頭來，開槍射擊。CNN的測試證實該工具能夠創建此類圖像。
這一工具可能會加劇人們對人工智能可能在互聯網上引發虛假或誤導性信息爆炸的擔憂，特別是在美國總統大選前。立法者、民間社會團體，甚至技術領導者本身都對濫用此類工具可能給選民帶來混亂和困惑發出了警告。
「Grok是世界上最有趣的AI！」馬斯克週三在X上發帖迴應一位用戶對該工具「無審查」的稱讚。
許多其他領先的AI公司已經採取了一些措施，以防止他們的AI圖像生成工具被用來創建政治虛假信息，儘管研究人員發現用戶有時仍能找到繞過執行措施的方法。一些公司，包括OpenAI、Meta和微軟，還包括技術或標籤，以幫助觀衆識別由他們的AI工具製作的圖像。
包括YouTube、TikTok、Instagram和Facebook在內的競爭社交媒體平臺也已採取措施，在用戶的動態中標記AI生成的內容，或者通過自己使用技術檢測，或者要求用戶在發佈此類內容時進行標識。
對於是否有政策防止Grok生成可能誤導選民的政治候選人圖像，X沒有立即迴應置評請求。