人工智能(AI)的日益復雜和可訪問性引發(fā)了人們對其對社會影響的長期擔憂。最新一代的聊天機器人加劇了這些擔憂，人們擔心就業(yè)市場的完整性以及假新聞和錯誤信息的傳播。鑒于這些擔憂，賓夕法尼亞大學工程與應用科學學院的一組研究人員試圖幫助技術用戶減輕這些風險。

訓練自己識別AI文本

他們在2023年2月舉行的人工智能促進協會會議上發(fā)表的同行評審論文提供了證據，證明人們可以學會辨別機器生成的文本和人工編寫的文本之間的差異。

該研究由計算機與信息科學系(CIS)副教授Chris Callison-Burch和博士領導。Liam Dugan 和 Daphne Ippolito 的學生證明了人工智能生成的文本是可檢測的。

“我們已經表明，人們可以訓練自己識別機器生成的文本，”Callison-Burch 說。“人們從一組關于機器會犯什么樣的錯誤的假設開始，但這些假設不一定正確。隨著時間的推移，只要有足夠多的例子和明確的指導，我們就能學會識別機器目前正在犯的錯誤類型。”

該研究使用的數據是通過“真文本還是假文本？”（一種基于網絡的原創(chuàng)訓練游戲）收集的。該訓練游戲將檢測研究的標準實驗方法轉變?yōu)楦鼫蚀_地再現人們如何使用 AI 生成文本的方法。

在標準方法中，參與者被要求以是或否的方式表明機器是否已經產生了給定的文本。Penn 模型通過顯示所有以人類編寫的示例開始，將標準檢測研究改進為有效的訓練任務。然后每個示例都會轉換為生成的文本，要求參與者標記他們認為此轉換開始的位置。受訓者識別并描述指示錯誤的文本特征并獲得分數。

研究結果

研究結果表明，參與者的得分明顯高于隨機得分，這提供了人工智能創(chuàng)建的文本在某種程度上是可檢測的證據。該研究不僅為我們與AI的關系描繪了一個令人安心甚至令人興奮的未來，而且還提供了證據表明人們可以訓練自己來檢測機器生成的文本。

“人們出于正當理由對AI感到焦慮，”Callison-Burch說。“我們的研究提供了減輕這些焦慮的證據。一旦我們能夠利用我們對AI文本生成器的樂觀態(tài)度，我們將能夠專注于這些工具的能力，以幫助我們編寫更具想象力、更有趣的文本。”

Dugan補充說：“你可以將這項技術推向令人興奮的積極方向。人們關注的是令人擔憂的例子，比如剽竊和假新聞，但我們現在知道，我們可以訓練自己成為更好的讀者和作家。”

該研究為減輕與機器生成文本相關的風險邁出了關鍵的第一步。隨著人工智能的不斷發(fā)展，我們檢測和駕馭其影響的能力也必須如此。通過訓練自己識別人類編寫的文本和機器生成的文本之間的區(qū)別，我們可以利用人工智能的力量來支持我們的創(chuàng)作過程，同時降低其風險。