辨識ChatGPT文章 OpenAI推出內容檢測工具
編譯／莊閔棻
隨著人工智慧研究新創公司 OpenAI的ChatGPT引起熱議，教授們也開始發現學生透過其來幫他們做作業，而現在OpenAI就自己推出了一種工具，讓人們可以輕鬆鑑定文章是由人類生成的還是人工智慧編寫的。
根據外電綜合報導，OpenAI 推出了人工智慧文本分類器（classifier），和語言模型一樣，其也是透過在人類和機器寫的文本上進行機器學習來訓練的，並可以區分出文本是否是由人工智慧寫的。該公司表示，它可以解決錯誤資訊和學術不誠實等問題。
然而，此模型目前還不是非常完善。在公開測試版中，OpenAI 承認該工具對檢測 1,000 個字以下的文本非常不準確，並且只要透過編輯人工智慧編寫的文本就可以騙過分類器。OpenAI 表示：「我們正在公開這個分辨器，以了解像這樣的不完美工具對於大眾來說是否會有用。」
OpenAI 也提到：「我們知道，對於教育工作者來說，能否識別人工智慧寫出的東西非常重要，因此我們想了解，這種分辨人工智慧作品的工具在課堂上的侷限和影響。」隨著ChatGPT受到數百萬用戶的歡迎，包括紐約市在內的很多美國大學區都禁止學生使用聊天機器人。
OpenAI員工 Jan Hendrik Kirchner、Lama Ahmad、Scott Aaronson 和 Jan Leike 在一篇文章中寫道，他們的新工具還只是在測試階段，因此「不完全可靠，也不應該用作主要決策工具」，但他們希望能得到家長和老師對分辨器的回饋。
不久前，普林斯頓大學學生 Edward Tian也推出了一款名為 GPTZero 的ChatGPT分辨工具。OpenAI 表示，他們正在與教育工作者合作，以討論 ChatGPT 的功能和局限性，並將繼續致力於幫助大家分辨出文本是否是由人工智慧生成的。
瀏覽 1,360 次
