ChatGPT成助力！微軟和 OpenAI ：駭客組織正在利用AI進行網路攻擊

編譯／莊閔棻

微軟和 OpenAI透露，駭客已經在使用 ChatGPT 等大型語言模型（LLM）來完善和改進他們現有的網路攻擊。在新發表的研究中，微軟和 OpenAI 發現，俄羅斯、北韓、伊朗和中國支持的組織試圖正在使用 ChatGPT 等人工智慧（AI）工具來研究目標、改進腳本，並幫助建立更強的網路攻擊技術。

利用AI改進網路攻擊

據外媒報導，和大家擔心的不同，這些國家並不是利用AI來生成攻擊，而是透過AI改進自家攻擊技術，包括起草電子郵件、翻譯文件和調整電腦程式碼。兩家公司在聲明中表示，「網路犯罪組織、國家威脅行為者和其他對手，正在探索和測試不同的AI技術，試圖了解該技術的潛在價值，及他們可能需要規避的安全控制。」

更多新聞：還沒開始用AI就落伍了！ 5 個你不會想錯過的生成式 AI 聊天機器人

俄羅斯的行動

與俄羅斯軍事情報部門有聯繫的駭客集團奇幻熊（STRONTIUM），就被發現利用LLM「來了解衛星通訊協定、雷達成像技術和具體技術參數」。微軟表示，為實現技術操作的自動化或最佳化，該團隊也一直在使用LLM來幫助完成「基本腳本任務，包括文件操作、資料選擇、正規表示式和多重處理」。

北韓、伊朗、中國

此外，為幫助完成基本的腳本任務，一個名為 Thallium 的北韓駭客組織則一直在利用LLM研究公開報告的漏洞和目標組織，並為網路釣魚活動起草內容；名為 Curium 的伊朗組織也一直在使用LLM產生網路釣魚電子郵件，及產生避免被防毒應用程式偵測的程式碼；而中國國家駭客也利用LLM進行研究、編寫腳本、翻譯，並完善現有工具。

AI網路攻擊的未來

雖然目前AI在網路攻擊中的使用仍有限制，但微軟仍對AI未來的用例，如語音模仿，發出警告。 微軟表示，「AI驅動的詐欺是另一個關鍵問題，語音合成就是一個例子，三秒的語音樣本就可以訓練模型，讓其產出聽起來像任何人，即使是像語音信箱問候語這樣無害的東西也可以用來獲得足夠的樣本。」

微軟的回應

對此，微軟則計畫利用AI來應對攻擊。微軟首席檢測分析經理Homa Hayatyfar表示，「AI可以幫助攻擊者提高攻擊的複雜性，並且他們有資源進行攻擊，但我們也使用 AI 來保護、檢測和回應。」為識別漏洞、更好地理解網路安全工具每天產生的大量訊號和資料，微軟就正在建立一款專為網路安全專業人員設計的新AI助手Security Copilot。

參考資料：finance.yahoo、The New York Times、The Verge

瀏覽 392 次