AI終於進化 假新聞偵測技術不遠了

編譯／黃竣凱

為遏制社群媒體及新聞網站上的假內容，數據科學家正積極運用創新科技，嘗試更有效的假新聞檢測方法，而目前使用於聊天機器人的大型語言模型（LLM），如 ChatGPT，也被訓練來協助辨別假新聞，以便警告並最終對抗來自深偽、宣傳、陰謀論和錯誤資訊的潛在威脅。

行為科學助力：AI 假新聞檢測的個人化發展

據報導，新一代的 AI 工具不僅致力於識別虛假內容，還將為用戶提供個人化的防護。數據科學家們正在借助行為科學和神經科學的研究成果，實現以用戶為中心的假新聞檢測。最近的研究就顯示，我們有時在潛意識中，無法察覺到所接觸的是假新聞，而神經科學則正在幫助發現無意識中正在發生的事情，透過心率、眼球運動和大腦活動等生物反應，幫助我們分辨真假內容。

更多新聞：AI假內容充斥　騙點擊率提供廣告收入

深偽偵測：模擬人類感知的 AI 優勢

這項新研究透過分析生物指標（如心跳、眼球運動和腦部活動），幫助 AI 辨別真假新聞。當人們觀看假內容時，這些指標會發生微妙變化，成為潛在的「線索」，而科學家則讓 AI 模仿人類的反應，進而更準確地識別假新聞。此外，個人化 AI 檢測系統還可以根據個人的情緒和認知特徵，提供更精確的保護和提醒，幫助人們更有效地識別和抵禦假資訊。

個人化 AI 假新聞檢測：從眼球追蹤到腦電波的精細調整

根據人類眼動數據和腦部活動的研究，科學家們嘗試找出不同類型的假新聞對人們神經、心理和情感上的影響。未來，個人化的 AI 假新聞檢測系統，甚至可以根據用戶的個性和情緒反應，預測何種內容會引發最大的情緒反應，協助檢測何時用戶被虛假資訊誤導。

假新聞防禦機制：量身定制的數位防護措施

假新聞帶來的危害需要進一步的防禦措施，除了傳統的警告標籤和可信內容連結，AI 還可以提供提醒用戶多角度思考的工具。目前美國就已經進行了一項試驗，研究人們與社群媒體上，和個人化假新聞檢測器的互動情況，該系統能將使用者看到的貼文，篩選至高真實度的內容，並配合輔助新聞以促進多元視角的思考。

精確度的挑戰：假新聞檢測的信號理論

然而，無論是假新聞、深偽還是錯誤資訊，所有檢測工具都面臨著「精確度」的相同挑戰，要達到高度精準的假新聞檢測，AI 系統需確保極高的正確率和極低的漏檢率與錯判率，準確地標記出假新聞。

參考資料：techxplore

※探索職場，透視薪資行情，請參考【科技類-職缺百科】幫助你找到最適合的舞台！

瀏覽 1,308 次