我們都被騙了！研究人員：ChatGPT 並沒有很聰明

編譯／黃竣凱

OpenAI的人工智慧（AI）聊天機器人ChatGPT 似乎已經成功的讓人們相信它很聰明，但事實上，我們可能都被它騙了。研究人員就發現， ChatGPT 有一個可以讓人們相信它很聰明的小技巧：一種透過清晰的語言和明確的表達方式，讓人們相信它的能力。

據外媒報導，雖然ChatGPT給出的答案錯誤百出，但人們卻更喜歡它的答案。研究發現，與工程師社群問答網站Stack Overflow 上的人類回答相比，40％ 的工程師更喜歡ChatGPT的回覆。而當被問及為什麼他們更喜歡 ChatGPT 答案時，參與者表示，答案的完整性和清晰的語言結構是他們偏好其回覆的原因。

更多新聞：ChatGPT 每天燒掉70 萬美元！OpenAI 可能會在 2024 年底破產

在這項研究中，美國普渡大學的研究人員對 ChatGPT 對Stack Overflow 上的 517 個問題的回覆進行分析。而在評估機器人的回答的「正確性、一致性、全面性和簡潔性」後，研究人員發現 ，機器人給出的答案，有52％完全錯誤，77％則不但錯誤還長篇大論。

不過，比起簡潔而正確的回應，人們似乎會對能解釋自己並給出更多資訊的談話感到更印象深刻，同時也會覺得說話的人（或機器人）更聰明。早先，OpenAI 就警告稱，該機器人可以寫出「聽起來好像合理但不正確或無意義的答案」。

AI聊天機器人的興起正在扼殺Stack Overflow。在OpenAI 發布其高級 GPT-4 AI 模型一個月後，Stack Overflow 2023年4 月份的流量與去年同期相比下降13%。研究人員表示，比起到Stack Overflow上尋找答案，有越來越多的工程師開始轉向詢問AI機器人，但基於ChatGPT回覆的錯誤率，這可能會引來嚴重後果。

參考資料：Insider

※更多ChatGPT相關訊息，請參考【生成式AI創新學院】。

瀏覽 871 次