AI 強化資安  提前預測潛在威脅並制定防護策略

編譯／Cynthia

在當今資訊爆炸的時代，人工智慧（AI）的崛起如同潮水般風靡全球，尤其是生成式人工智慧（GenAI）的興起，不僅深刻地影響組織運作，也徹底改變資安的面貌。究竟AI在資安領域有著怎樣的威力 ?

AI 強力守護，資安新境界

數據量急遽增長，AI透過先進技術為組織提供強大的防護能力。根據西班牙國家密碼中心（National Cryptology Centre，NCC）報告，AI提升威脅檢測和應對，透過歷史數據預測潛在威脅，有效制定防禦策略。AI利用生物識別技術和使用者行為辨識技術準確認證身份，顯著減少未經授權訪問風險。同時，AI辨識網路釣魚企圖，評估安全配置和政策，找出可能弱點。

更多新聞：GenAI助長釣魚風暴　企業如何自保？

然而，這敏捷性成為網路罪犯武器，他們快速適應新安全措施，形成新威脅，使AI在資安角色更複雜。資安領域的未來，仰賴AI強大的防護機制，同時需不斷因應罪犯變化，更能維護數據安全。

AI 挑戰與風險，資安抉擇

儘管AI在資安表現亮眼，西班牙NCC指出一系列挑戰。對抗攻擊儼然成為首要問題，網路罪犯透過欺騙AI模型，迫使其做出錯誤或惡意決策。過度信賴自動化解決方案可能導致缺乏解釋性、自動化失敗、誤判安全性等問題。NCC強調AI應與傳統方法並用，而非全面取代。錯誤識別問題可能導致未發現的安全漏洞或無必要的中斷。同時資料隱私和道德問題也引起廣泛的關切。

GenAI的崛起帶來增強系統測試，也可能被罪犯利用，生成各種惡意軟體、深度偽造、偽造網站和具有說服力的網路釣魚郵件，進一步加劇資安威脅的複雜性。資安領域必須謹慎取捨，以確保AI的應用在增進效能的同時，不帶來潛在風險。

政府積極因應，資安國際趨勢

隨著AI技術不斷進步，網路罪犯也在不斷尋找新的攻擊方式，使得資安風險日益嚴峻。為因應這些挑戰，美國總統去年十月發布行政命令，主要在有效管理風險，確保AI的安全性、可信度和值得信賴性。同時，英國國家資安中心（NCSC）提供針對AI系統開發和部署的安全指南，以確保安全的AI系統發展和應用。

這突顯各國政府對於資安的高度重視，呼籲全球共同努力，充分發揮AI在資安領域的潛力，以更強大的安全措施保護數據。

資料來源：Help Net Security

瀏覽 635 次