SearchGPT可信度引發擔憂 專家強調仍需仔細檢查

編譯／莊閔棻

透過推出搜尋人工智慧（AI）模型 SearchGPT，OpenAI向 Google 在網路搜尋領域的主導地位，發起了最直接的挑戰，目前這個新的臨時搜尋工具目前處於原型設計階段，是與 《The Atlantic》、《Vox》 和 《News Corp》 等主要新聞出版社合作開發的，OpenAI 強調該工具會給出答案並提供來源連結，確保透明度和可信度，然而專家對該模型是否可信仍非常懷疑。

專家質疑SearchGPT可信度

據報導，儘管美國東北大學專門從事AI和傳播研究的教授 Michael Ann DeVito 認為 OpenAI 與出版商的合作是積極的一步，但她也警告說，大型語言模型的基本限制，仍然令人擔憂，儘管採取了預防措施，該工具仍然存在提供誤導或不正確資訊的風險，且即使訓練資料來自信譽良好的新聞內容，也可能存在嵌入偏差。

更多新聞：分析師 : OpenAI 與蘋果合作比 SearchGPT 更具威脅性

「幻覺」仍是問題

DeVito表示，「該模型仍沒有真正的智慧，只是基於語言，進行與上下文無關的模式匹配，因此吐出的一些內容，很有可能會具有誤導性或完全是無稽之談。」儘管由於 ChatGPT 的速度和對話性質，許多用戶已經將其用作搜尋工具，但該聊天機器人仍因「產生幻覺」和分享假訊息而臭名昭彰，DeVito指出，這些技術的出現正值過去十年來大眾的媒體素養急劇下降之際，使人們更難辨別好壞資訊來源。

警告不夠具體

雖然ChatGPT 在其網頁底部聲明 ChatGPT 可能會犯錯誤，並要求人們仔細檢查資訊，但DeVito表示這遠遠不夠，並將此警告與過去香菸上的小警告相比，指出需要更「巨大且圖形化」的警告標籤，才能有效吸引人們的注意，否則那只是一段「沒人想閱讀的文字」。DeVito說，在最好的情況下，這些工具應該被視為一個「新奇玩具」，並不適合任何重要任務，仔細檢查一切的時間，也會比僅僅自己找花更多的時間，不如自己動手。

SearchGPT

目前SearchGPT 尚未成為官方向公眾開放的產品，OpenAI 表示，最初將向有限數量的用戶和發布商開放，並計畫在將其整合到 ChatGPT 之前完善該產品，有興趣的人可以加入候補名單以參與試用階段。

參考資料：techxplore

瀏覽 138 次