微軟攜手OpenAI  揭露最新AI資安隱憂

記者／竹二

AI發展帶來便利、解決問題，但也伴隨許多資安隱憂，根據微軟公布最新的Cyber Signals研究報告揭露攻擊者如何運用AI提升攻擊效率、進行身份欺詐，攻擊者試圖使用大型語言模型（LLMs）來增強正在進行的網路攻擊行動，雖然攻擊的動機和複雜程度各有不同，但共同任務包含偵察、編碼和協助學習及使用人類和機器語言。

微軟揭露國家型攻擊者AI攻擊行動

微軟近日宣布與OpenAI合作，揭露有關追蹤國家型攻擊者的手法與路徑，包含來自俄羅斯的Forest Blizzard、北韓的Emerald Sleet、伊朗的Crimson Sandstorm、以及中國的Charcoal Typhoon和Salmon Typhoon，揭示微軟觀察到這些攻擊者在AI方面採取的早期行動，並記錄如何阻止他們的活動，以保護AI平台和用戶。

更多新聞：Meta示警！間諜軟體蒐集數據也入侵隱私 還可遠端啟動裝置功能

微軟也公布指導及採取行動的原則，包含識別和對惡意威脅行為者的行動、通知其他AI服務供應商的使用，以及與其他利害關係者合作以及提升透明度，藉此減輕因為國家型持久攻擊威脅者、持久操縱者和使用AI平台和API的網絡犯罪集團帶來的風險。

AI詐欺、語音合成成新興威脅

除了國家型攻擊之外，AI引發的詐欺事件也是另一重要議題，語音合成技術的濫用就是一個例子，3秒的語音樣本可以訓練模型讓它聽起來像任何人，微軟指出，人們必須了解惡意行為者如何利用AI破壞長期存在的身份驗證系統，以便應對複雜的詐欺案件和其他掩蓋身份的新興威脅。

微軟強調，網絡犯罪分子和國家支持的攻擊行為者，正尋求利用AI與LLMs來提高攻擊的速度及範圍，他們正採用多種方法來保護自身免受這類網絡攻擊威脅的侵害，像是人工智慧的威脅偵測、行為分析、機器學習模型、零信任原則以及加強驗證等。

瀏覽 416 次