觀點：魔法對抗魔法 OpenAI新工具檢測文章是否由ChatGPT撰寫

2023-02-02 07:00:44來源：中關(guān)村在線

(資料圖)

OpenAI發(fā)布了一個工具，幫助你確定文本是由人類還是人工智能寫的可能性更大。然而，ChatGPT制造商警告說，它相當于《銀翼殺手》中的Voight-Kampff測試，也可能出錯。

該工具包括一個方框，你可以粘貼至少1000個字符的文本。然后它將吐出一個裁決，如 "分類器認為該文本非常不可能是人工智能生成的 "或 "分類器認為該文本可能是人工智能生成的"。

我通過提示ChatGPT寫一篇關(guān)于鳥類遷徙模式的文章來測試它，然后檢測工具將其描述為 "可能是AI生成的"。同時，它將幾篇由人類撰寫的文章評為 "非常不可能是人工智能生成的"。因此，盡管該工具可能會在任何一個方向上引起錯誤的信號，但我的（很小的樣本量）測試表明至少有一定的準確性。不過，OpenAI提醒說，不要單獨使用該工具來確定內(nèi)容的真實性；它對1000字以上的文本也有最佳效果。

這家初創(chuàng)公司在11月發(fā)布其ChatGPT工具后面臨著來自教育工作者的壓力，該工具產(chǎn)生的人工智能編寫的內(nèi)容有時可以冒充人類寫作。這種自然語言模型可以在幾秒鐘內(nèi)根據(jù)簡單的文字提示創(chuàng)造出文章--甚至可以通過研究生商業(yè)和法律考試--同時為學生提供一個誘人的新作弊機會。因此，紐約公立學校禁止該機器人進入其WiFi網(wǎng)絡和學校設備。

雖然ChatGPT的到來是最近的一個熱門話題，甚至延伸到了渴望自動化SEO友好文章的媒體機構(gòu)，但該機器人對OpenAI來說是大生意。據(jù)報道，該公司本月初從微軟獲得了100億美元的投資，微軟計劃將其整合到必應和Office 365中。據(jù)稱，OpenAI去年年底討論了以290億美元的估值出售股票，這將使其成為美國最有價值的創(chuàng)業(yè)公司之一。

雖然ChatGPT是目前公開的最好的自然語言人工智能模型，但谷歌、百度和其他公司正在研究競爭對手。谷歌的LaMDA有足夠的說服力，以至于一位前研究人員去年因聲稱該聊天機器人有知覺而丟掉了他在該搜索巨頭的工作。(人類傾向于將感情和意識投射到算法上，這是我們在未來幾年可能會聽到的一個概念）。谷歌只在測試版中發(fā)布了極其有限的聊天機器人，可能是出于道德方面的考慮。隨著精靈從瓶子里出來，看看這種限制能持續(xù)多久將很有趣。

標簽：新聞資訊