AI終於進化 假新聞偵測技術不遠了

編譯/黃竣凱

為遏制社群媒體及新聞網站上的假內容,數據科學家正積極運用創新科技,嘗試更有效的假新聞檢測方法,而目前使用於聊天機器人的大型語言模型(LLM),如 ChatGPT,也被訓練來協助辨別假新聞,以便警告並最終對抗來自深偽、宣傳、陰謀論和錯誤資訊的潛在威脅。

AI工具被訓練來協助辨別假新聞。
AI工具被訓練來協助辨別假新聞。

行為科學助力:AI 假新聞檢測的個人化發展

據報導,新一代的 AI 工具不僅致力於識別虛假內容,還將為用戶提供個人化的防護。數據科學家們正在借助行為科學和神經科學的研究成果,實現以用戶為中心的假新聞檢測。最近的研究就顯示,我們有時在潛意識中,無法察覺到所接觸的是假新聞,而神經科學則正在幫助發現無意識中正在發生的事情,透過心率、眼球運動和大腦活動等生物反應,幫助我們分辨真假內容。

更多新聞:AI假內容充斥 騙點擊率提供廣告收入

深偽偵測:模擬人類感知的 AI 優勢

這項新研究透過分析生物指標(如心跳、眼球運動和腦部活動),幫助 AI 辨別真假新聞。當人們觀看假內容時,這些指標會發生微妙變化,成為潛在的「線索」,而科學家則讓 AI 模仿人類的反應,進而更準確地識別假新聞。此外,個人化 AI 檢測系統還可以根據個人的情緒和認知特徵,提供更精確的保護和提醒,幫助人們更有效地識別和抵禦假資訊。

個人化 AI 假新聞檢測:從眼球追蹤到腦電波的精細調整

根據人類眼動數據和腦部活動的研究,科學家們嘗試找出不同類型的假新聞對人們神經、心理和情感上的影響。未來,個人化的 AI 假新聞檢測系統,甚至可以根據用戶的個性和情緒反應,預測何種內容會引發最大的情緒反應,協助檢測何時用戶被虛假資訊誤導。

假新聞防禦機制:量身定制的數位防護措施

假新聞帶來的危害需要進一步的防禦措施,除了傳統的警告標籤和可信內容連結,AI 還可以提供提醒用戶多角度思考的工具。目前美國就已經進行了一項試驗,研究人們與社群媒體上,和個人化假新聞檢測器的互動情況,該系統能將使用者看到的貼文,篩選至高真實度的內容,並配合輔助新聞以促進多元視角的思考。

精確度的挑戰:假新聞檢測的信號理論

然而,無論是假新聞、深偽還是錯誤資訊,所有檢測工具都面臨著「精確度」的相同挑戰,要達到高度精準的假新聞檢測,AI 系統需確保極高的正確率和極低的漏檢率與錯判率,準確地標記出假新聞。

參考資料:techxplore

※探索職場,透視薪資行情,請參考【科技類-職缺百科】幫助你找到最適合的舞台!

瀏覽 53 次

覺得不錯的話就分享出去吧!

發佈留言

Back to top button