不用複製貼上  人工智慧將加速假消息傳播

編譯／莊閔棻

學術界、網路安全研究人員和人工智慧專家警告說，ChatGPT可能被不良分子用來在社群媒體上散播反對意見和傳播宣傳，並讓假帳號、假消息充斥整個網路，使更多人受騙。

根據《CNN》的報導，原本傳播錯誤資訊需要大量的人力勞動，但現在，未來我們可能不得不應對更加巨大的錯誤資訊流動。美國喬治城大學、史丹佛大學網路觀察實驗室和OpenAI在1月發表的一份報告就指出：「語言模型因為可以以低成本寫出與人類寫的相似的內容，因此，與任何強大的技術一樣，這些模型可能將為惡意宣傳者帶來優勢，讓他們可以擴大影響更多人，並使競選活動的資訊傳遞更有針對性和有效性，製造出一種新的影響策略。」

據報導，可能上升的不僅是錯誤資訊的數量，還有品質。該報告的共同作者、喬治城大學安全和新興技術中心的研究員Josh Goldstein就表示：「人工智慧系統可以提高內容的說服力，並使普通網路用戶難以發現這些訊息是假訊息宣傳的一部分。」他還補充說：「生成式語言模型可以產生大量的內容，而且每次都是不同且是原創的，這就讓宣傳者不用複製貼上來自社群媒體或新聞網站的相同內容。」

Goldstein也說，如果一個平台充斥著不真實的資訊或宣傳，公眾就會難以辨別什麼是真的什麼又是假的，而這通常就是那些參與影響力行動的不良行為者的目的。他的報告還指出，這些系統將會更普遍，因為隨著更多的行為者對最先進的生成式模型進行投資，宣傳者就更有可能會獲得這些技術。

人工智慧專家、2016年被Uber收購的人工智慧公司Geometric Intelligence的創始人Gary Marcus也說，邪惡的團體可能會把人工智慧編寫的內容變成某種垃圾郵件的形式，並誘導人們去點擊它們的連結。而其就是透過多接觸人們來達到目的，現在有了人工智慧，這個噴灑器將變得「超巨大」。

參考資料：CNN

瀏覽 1,345 次