Meta推AI機器人挨批錯誤百出　僅兩天即下線

Meta的厄運似乎還沒有停止。根據《Gizmodo》的報導，Meta本應幫助學者和研究人員快速、簡潔地找到論文和研究的人工智慧 (AI) 機器人在上線兩天後，就被暫停了，因為其造成了大量的錯誤引用和生成錯誤資訊。

根據報導，這個名為 Galactica 的機器人接受了「1060 億個開放獲取科學文本和數據標記的訓練。包括論文、教科書、科學網站、百科全書、參考資料、知識庫等等」。但當科學家在文本中被錯誤引用時，就會威脅到他們的聲譽，華盛頓大學生物學教授Carl Bergstrom表示，Galactica的問題在於，它被宣傳為獲取事實和訊息的一種方式。但相反，他說這個AI就像是一個奇特的「遊戲機器人」，用戶講半句話，它就會自動完成語句的其餘部分。

在Galactica上線後的幾個小時內，用戶開始回報各種種族歧視和不準確的資訊問題。根據報導，該機器人「聲稱」黑人「沒有自己的語言」，移民「不會說他們移民到的國家/地區的語言」。其他還包括生成關於吃碎玻璃的好處的假研究，以及關於史丹佛大學研究人員開發「gaydar」軟體，以在臉書上尋找同性戀者的假訊息。

Meta AI 發言人表示，「Galactica不是事實的來源，它是一項使用 （機器學習）系統學習和總結資訊的研究實驗」。他也補充說，Galactica 「是一種短期性質的探索性研究，沒有發展成產品的計畫」。 在Galactica發布兩天后，Meta AI 團隊就暫停了機器人。Meta AI 首席科學家 Yann LeCun 告訴媒體，該機器人已被刪除，因為該團隊「對推特上的尖酸刻薄感到心煩意亂」。

Meta AI的目標，是想讓人工智慧做一些如解決數學問題、編寫程式代碼和製作研究總結等的事情。但他們也有明確指出，AI 模型確實存在可能「產生幻覺」的局限性，也建議用戶驗證任何看到的資訊。雖然AI可能會對自己生成的內容「高度自信」，但它仍然可能是錯誤的。

匹茲堡卡內基美隆大學的計算機科學教授 Vincent Conitzer 表示，「雖然存在許多可預測的缺陷，但這種系統也有理想的用途。因此，如果Meta 在這次公開發布中投入更多精力，對不良用途坦誠相待，可能會更好」。（編譯 / 莊閔棻）

參考資料： Gizmodo

瀏覽 749 次