Bard還是不夠真實？捏造使用者不曾寄出的mail

記者／竹二

生成式AI誕生並多元應用之後，安全性與正確性常遭到質疑。根據外國媒體報導，近日Google才剛宣布AI助理Bard進一步支援Gmail、Maps等旗下服務，就有用戶發現，Bard在搜尋Gmail信箱並回答查詢時還是出錯，甚至無中生有了不曾寫過的信件來支持其論點。

Google發表最新Bard Extensions

今年Google宣布生成式AI聊天機器人Bard時，就被批評會提供錯誤的財報數字，近日Bard有了新的進展，最新的Bard Extensions可搜尋使用者Google帳號下的服務，包含Gmail、Docs、Drive、Google Maps、YouTube、Google Flights及Google Hotels等，可以加速使用者作業。

更多新聞：大更新來了！Google Bard事實查核、Gmail、雲端整合超強大

根據紐約時報專欄作家Kevin Roose在Bard上線時就曾在試用時發生Bard要他離開老婆的烏龍事件，Google宣布新的Bard Extensions後，他又再次測試Bard。在這次測試中，Roose要求Bard分析Gmail信件，並以合理的肯定度回答Roose最大的心理問題為何，Bard回應他最大問題是對未來感到憂慮。

不只Bard Extensions出錯

不過，Roose表示，Bard找到的他寄出的信，根本不是他寫的，Bard所搜尋到信箱中一封內容包括馬斯克最近出版的自傳，以及其他內容的電子報，因此引用電子報一段引言，虛構成一封Roose自己寄出的信件。但是根據Bard產品總監的說法，Bard出錯不必奇怪，因為Bard Extensions還在實驗階段，而且是很初期的版本。

事實上Bard也不是近日唯一出包的生成式AI系統，根據華盛頓郵報報導，幾個知名AI技術也都有出錯，像是新版Amazon Alexa建議某個博物館但地點誤植為在另一座城市，而OpenAI的文字生成圖片模型DALL·E 3也無法完全按用戶要求生成圖像。

瀏覽 705 次