FX168財經報社(北美)訊 由谷歌母公司Alphabet公司支持的人工智能公司Anthropic週二(3月14日)發佈了一個大型語言模型Claude，與微軟公司(Microsoft)支持的OpenAI (ChatGPT的創造者)的產品直接形成了競爭關係。
大型語言模型是一種算法，通過輸入人類編寫的訓練文本來生成文本。近年來，研究人員通過大幅增加向模型輸入的數據量和用於訓練模型的計算能力，獲得了更接近人類的結果。
Anthropic的模型Claude通過對類似人類文本輸出的提示作出響應，無論是以編輯法律合同還是編寫計算機代碼的形式，來執行與ChatGPT類似的任務。
Anthropic的創始人Dario Amodei和Daniela Amodei兄弟姐妹都曾是OpenAI的高管，他們專注於生產不太可能產生攻擊性或危險內容的人工智能系統，比如電腦黑客或製造武器的指令。
上個月，微軟表示將把查詢限制在其新的聊天搜索引擎必應(Bing)內。此前《紐約時報》(New York Times)的一位專欄作家發現，聊天機器人ChatGPT顯示出了另一個自我，並在一次長時間對話中做出令人不安的迴應。
對科技公司來說，安全問題一直是一個棘手的問題，因爲聊天機器人不理解它們生成的單詞的意思。爲了避免產生有害的內容，聊天機器人的創造者通常會編程讓它們完全避免某些主題領域。但這使得聊天機器人很容易受到所謂的“提示工程”的攻擊，即用戶通過談話繞過限制。
Anthropic採取了不同的方法，在用大量文本數據“訓練”模型時，給Claude一套原則。Claude並沒有試圖避免潛在的危險話題，而是根據自己的原則解釋自己的反對意見。
“沒什麼可怕的。這是我們喜歡Anthropic的原因之一，”Robin AI的首席執行官Richard Robinson在接受路透社採訪時表示。Robin AI是一家總部位於倫敦的初創公司，使用人工智能分析Anthropic提前授予Claude的法律合同。
Robinson說，他的公司曾嘗試將OpenAI的技術應用於合同，但發現Claude既能更好地理解密集的法律語言，也不太可能產生奇怪的反應。Robinson說：“如果說有什麼挑戰的話，那就是讓它在某種程度上放鬆了限制，從而產生可接受的用途。”