AI是網路安全兩面刃｜專家論點【張瑞雄】

作者：張瑞雄（台北商業大學前校長）

AI工具的推出象徵著提高生產力和簡化工作流程的一個重要里程碑，有望透過自動化日常任務並使每個人都能做出複雜的數據驅動決策來徹底改變我們的工作方式。但與任何強大的工具一樣，AI的雙刃性質既帶來了巨大的機會，也帶來了令人震驚的風險，特別是在網路安全領域。

AI助手可以無縫整合到一些應用中，例如幫助用戶瀏覽電子郵件、視訊聊天和編輯文檔，以及快速高效地檢索資訊。此功能雖然有利於提高工作效率，但也為惡意行為者提供了一個誘人的目標。透過一些簡單的提示即可檢索、編譯和操作來自各種來源的資料的能力就是AI如此強大但又如此危險的原因。

AI在被惡意操縱時可以變成高效的網路攻擊工具，例如一旦駭客獲得了使用者電子郵件的存取權限，AI就可以用來起草模仿使用者寫作風格的網路釣魚電子郵件，使它們與合法電郵幾乎無法區分。

這種能力不僅僅是一種假設的威脅，AI生成的網路釣魚攻擊的複雜性可能會大大提高其有效性，因為這些電子郵件將以前所未有的個人化為其收件人量身定製，此類技術被濫用的可能性凸顯了對超越傳統防禦的強大安全措施的需求。

AI帶來的挑戰遠遠超出了簡單的網路釣魚，AI可以繞過安全措施並提取敏感資料。例如用巧妙措詞的提示來欺騙AI顯示私人訊息，或者透過引導受害者將銀行資訊輸入詐騙帳號來操縱AI執行有利於攻擊者的金融交易。

與傳統軟體不同的是，AI的運作方式並不總是可預測的，即使對於其建立者也是如此，這種不可預測性使得我們很難預測AI可能被利用的所有可能方式。

此外AI與企業環境的整合加劇了現有的安全弱點，許多組織都在努力妥善管理存取權限和保護資料，當AI系統獲得數位王國的鑰匙時，這個問題只會變得更加複雜。AI與管理不善的數據存取相結合，為潛在的違規行為創造了一場完美風暴。

AI在網路安全中的作用並不完全是負面的，例如AI可用於自動偵測網路流量中的異常模式，比人類更快標記潛在威脅。它還可以透過快速關聯多個來源的資料來協助事件回應，更清晰地了解正在進行的攻擊。但好處並不能消除風險，企業需要採取更細緻的AI部署方法。

關鍵涉及監控AI系統產生的內容並確保其輸出與預期用法保持一致，特別是在AI有權存取敏感資料的環境中。AI系統的設計從一開始就應考慮到安全性，納入針對已知攻擊方法的防護措施。

AI提醒人們在沒有充分理解新技術意義的情況下倉促採用的危險，雖然AI有可能改變我們的工作方式，但它更有可能破壞網路安全的基礎。駕馭這一兩面刃的關鍵是保持警惕、人機協作以及對建立與創新相匹配的安全措施。

瀏覽 422 次