世界經濟論壇:AI造假 是全球最大威脅

編譯/莊閔棻

世界經濟論壇在報告中表示,由創新人工智慧(AI)驅動的虛假和誤導性資訊有可能侵蝕民主並使社會兩極化,對全球經濟構成最大的直接風險。該報告是在即將舉行的世界經濟論壇會議之前發布的,基於對近 1,500 名專家、行業高層和政策制定者的調查。

世界經濟論壇表示,AI造假是全球最大威脅,假新聞和虛假資訊列為未來兩年​​最嚴重的風險。示意圖。(圖/123RF)

門檻降低

據外媒報導,該報告將假新聞和虛假資訊列為未來兩年​​最嚴重的風險,強調科技的快速進步也會帶來新問題或使現有問題惡化。作者擔心,像 ChatGPT 這樣的生成式AI聊天機器人的興起代表,可用於操縱人群的複雜合成內容的創建將不再局限於具有專業技能的人。

更多新聞:徹底改變網路安全!亞馬遜的生成式AI、人力資源和未來願景

AI侵蝕民主

風險管理公司Marsh的風險管理主管Carolina Klint 表示,「你可以利用AI製作深度偽造,並對大型群體產生真正的影響,這確實助長了假資訊。」她說,「社會可能會變得更加兩極化」,因為人們核實事實將變得更加困難。 Klint說,假新聞也可能被用來引發對民選政府合法性的質疑,民主進程可能會受到侵蝕。

后果將難以逆轉

Klint還指出,AI的興起帶來了許多其他風險。 它可以讓「惡意行為者」更容易進行網路攻擊,例如自動進行網路釣魚或建立進階惡意軟體。AI甚至還可能污染網路上抓取的數據,並訓練其他AI系統,這將「極其難以逆轉」,並可能導致AI模型產生更多偏見。

世界經濟論壇會議即將舉行

預計AI將成為即將舉行的世界經濟論壇會議的熱門話題,這次的與會者包括 OpenAI 執行長 Sam Altman、微軟執行長 Satya Nadella 、Meta 的首席 AI 科學家 Yann LeCun等科技公司領導人以及產業參與者。

參考資料:africanews

瀏覽 2,486 次

覺得不錯的話就分享出去吧!

發佈留言

Back to top button