加拿大網路安全中心：駭客正在用AI傳播假消息

編譯／黃竣凱

加拿大網路安全中心（Canadian Centre for Cyber Security）表示，駭客和宣傳人員正在利用人工智慧（AI）創建惡意軟體、撰寫網路釣魚電子郵件，並在網路散播假消息。該中心負責人Sami Khoury就指出，他們發現，AI正被用於以更有針對性的方式創建網路釣魚電子郵件、惡意程式碼，以及錯誤和假消息。

據外媒報導，Khoury沒有提供細節或證據，但他確信網路犯罪分子正在使用AI。Khoury 表示，雖然編寫一個好的漏洞利用程式需要花很多時間，而使用AI撰寫惡意程式碼仍處於早期階段，但令人擔憂的是，AI模型發展之快，失去控制可能只是一瞬間的事。

更多新聞：專家：2024社群媒體假消息散播將更嚴重

近幾個月來，幾個網路監管組織都紛紛發布報告，警告AI的風險。其中又以快速發展的語言處理程式：大型語言模型（LLM）最令人擔憂，因為其可以透過學習大量文本生成令人信服的對話和文字內容，讓網路駭客可以低成本又快速的生成騙人的內容。

2023年三月，歐洲刑警組織 （Europol）也發布一份報告，稱 OpenAI 的 ChatGPT 等模型讓人們「即使只掌握基本的英語，也可以高度逼真的假冒一個組織或他人」。 同月，英國國家網路安全中心（National Cyber Security Centre）也寫文章指出，犯罪分子「可能利用LLM進行更近一步的網路攻擊」。

作為範例，一名前駭客就表示，他在網路上找到一個受過惡意材料訓練的LLM，並能要求其起草一份誘騙某人進行現金轉帳內容的信件。該LLM還寫道：「這筆付款非常重要，需要在接下來的 24 小時內完成。」

參考資料：Reuters

瀏覽 1,236 次