老師請小心！ChatGPT 無法辨明論文是否AI寫

編譯／黃竣凱

事實證明，透過ChatGPT來查明一篇文章是否是ChatGPT寫的根本不可靠。該工具不但會自信的編造事情，甚至還有「幻覺」。換句話說，ChatGPT不能告訴我們，一個學生到底是否使用了人工智慧工具來寫論文。而任何以這種方式使用ChatGPT的老師可能都不了解這些大型語言模型的工作原理。

根據《富比士》的報導，日前，在一則瘋傳Reddit貼文中，一個恐慌的大學生擔心他們會被指控使用ChatGPT。他說：「我的教授說，他班上的一個學生因為用ChatGPT寫論文，得了0分，並很快被停課。而他的方法，就是問ChatGPT說，它是否寫了這篇論文。」

為了證實ChatGPT會說謊，科技專欄作家Matt Novak就進行了實驗。他表示，當他把他「親自寫出來」的文章貼到ChatGPT中，並問說：「這是ChatGPT寫的嗎？」，ChatGPT就聲稱說是它寫的。Novak指出，他貼的文章是2012年寫的，而OpenAI甚至在2015年才成立，ChatGPT更是直到2022年底才向公眾發布；隨後，Novak又把一篇1981年發表的文章貼上去。同樣的，ChatGPT又再一次把寫這篇著作的功勞歸於自己。而OpenAI的聯合創始人之一Sam Altman，甚至是在1985年才出生的。

Novak指出，大型語言模型（LLMs）是透過對世界進行學習來運作的。 ChatGPT就是透過在數以百萬計的書籍、歌曲及其他開放網路上的文件上進行了訓練，並利用這些資訊來回答用戶提出的問題的。但由於某些原因，當它不知道某個問題的答案時，就可能會亂回覆，而因為這些LLM是像人類一樣用自然語言進行回應的，導致我們傾向於相信它。

但事實上，ChatGPT常常會出錯，並可能會告訴你一些不真實的東西。但這並不是因為它有意說謊，而是因為，至今為止，LLM的運作方式仍然是一個黑洞。其有可能是對的，也可能是錯的；而人類用戶可以選擇相信，或是不相信。但問題是，若是誤信了不正確的事實，就可能會導致嚴重的後果。如，在本文的情況下，老師們就可能會誤會一個認真的學生。

參考資料：Forbes

※更多ChatGPT相關訊息，請參考【生成式AI創新學院】。

瀏覽 670 次