逾七成企業經歷過AI系統入侵事件  

編譯／Cynthia

隨著數位轉型時代的到來，人工智慧（AI）已然成為企業成功不可或缺的關鍵因素，為商業注入強大的智慧技術。根據AI安全平台HiddenLayer最新報告指出，近9.8成的公司視其部分AI模型為極為重要，在過去一年中，超過7成企業都曾經歷過AI系統入侵事件，引起對AI安全的極大擔憂。

在目前商業環境中，企業平均使用1,689個AI模型，使AI的安全性成為企業需解決的首要挑戰。報告指出，94％的IT領袖已經投入大量資金以確保AI安全，僅61％對於資金的分配表現出高度信心，92％的企業仍在積極努力制定因應這項威脅的策略。

更多新聞：深度偽造衝擊企業  價值2500萬美元的AI詐騙警訊

AI的多重風險與應對挑戰

AI的應用不僅提升業務效率並帶來創新，也伴隨著多種風險，例如駭客利用AI進行攻擊。這包括操縱資訊、創造有害內容以及發展深度偽造的技術。報告詳細列舉主要的攻擊類型，包括機器學習攻擊、生成式AI系統攻擊和供應鏈攻擊，這些風險對商業和政府組織造成不同程度的潛在影響。

在確保AI過程中，企業面臨多方挑戰。61％的IT領袖承認，企業存在未經官方認可或IT部門可控解決方案下運用AI，成為不可忽視問題。89％的企業擔心整合第三方AI可能帶來的安全漏洞，且75％認為第三方AI整合更具風險，這顯示企業在確保AI安全性方面的複雜性，需要全面的管理和防範策略。

保障AI的最佳實踐

因應AI安全挑戰，報告提出一系列最佳實踐。從發現和資產管理著手，了解AI應用，進行風險評估和威脅建模，全面了解風險和攻擊面向。並強調數據安全和隱私，實施加密、訪問控制，提供AI模型數據的運行時保護。定期評估AI模型堅固性，對抗攻擊實驗，將安全納入AI開發的生命週期。最後，實施持續監控機制，發現實時異常，建立全面AI事件應對計畫，快速有效處理安全漏洞或異常事件。這些建議有助企業更全面預防AI安全問題。

總體而言，AI安全挑戰對現代企業提出嚴峻考驗，需要全方位的因應。儘管企業認識到這問題的緊迫性，但在確保AI安全方面仍存在信心不足和策略不完備的現象。報告主要在喚起企業對AI安全的高度警覺，促使制定更全面、有效的安全策略，確保AI系統安全運行，持續享受AI帶來的效益。

資料來源：Help Net Security

瀏覽 384 次