人工智慧 VS. 人工智慧　2024年AI資安趨勢與預測

編譯／Cynthia

資安領域近年取得進展，AI不僅為企業提供防禦利器，同時也成為駭客的新武器。2024年，資安專家預測七大趨勢，其中包括選舉年可能發生的虛假資訊攻擊、生成式AI所帶來的挑戰，以及新興的「影子AI」。這場AI與資安的對決既充滿著機會，也帶來不小的挑戰。

一，選舉的虛假資訊攻擊

在選舉中還需面對AI製造的虛假資訊攻擊，這使得風險更加嚴峻。美國雲端公司Zscaler副總裁兼資安長（CISO） Sam Curry說明，互聯網的開放使得駭客能夠透過AI製作虛假版本的名人，進而散布未經查核的虛假新聞，可能對社會行為產生不良影響。

更多新聞：2024年數位安全趨勢與挑戰

二，AI 驅動的安全機會

生成式AI和機器學習的發展不僅提高網路攻擊的複雜性，同時也為企業帶來新挑戰。印度塔塔塔塔諮詢服務公司合夥人Margareta Petrovic和資安主管Dr. KPS Sandhu指出，這項技術使得駭客能夠發動更為精密和潛在的攻擊，因此企業需要採用AI驅動的資安技術來升級整體的資安體系，以因應這些新興的威脅。

三，社交工程攻擊的進化

美國軟體公司Adlumin威脅研究總監Kevin O’Connor指出，商業可用的AI技術使得駭客更容易設計巧妙的社交工程攻擊。透過AI系統整合社交媒體上的大量個人資訊，新手駭客能夠製作更有針對性且令人信任的社交工程攻擊，這可能使得這類攻擊變得更加普及。

四，新興「影子 AI」

美國密碼管理公司Bitwarden執行長Michael Crandell指出，生成式AI在職場的廣泛應用帶來新的資安挑戰，特別是所謂的「影子AI」。當員工未經允許授權地將AI整合到工作流程中時，可能導致資安和數據隱私風險的產生。為了降低「影子AI」的風險，公司需要建立明確的「AI管理政策」，教育訓練團隊遵守安全的AI實踐，制定清晰的使用政策，實施AI工具使用的監控，並隨著AI技術的演進更新安全協議。

五，AI 紅隊與漏洞獎勵

美國軟體公司Aiden執行長Josh Aaron表示，2024年將見證AI紅隊測試和漏洞獎勵制度的進一步發展。AI紅隊測試將進一步擴展到識別和解決獨特的AI漏洞，例如模型操作或提示注入攻擊。將AI紅隊測試與激勵獎勵制度相結合將對抗複雜的資安威脅至關重要，這反映出對AI安全的積極態度，是業界面對新挑戰的一種應對策略。

六，AI對抗AI

駭客利用AI和機器學習發展更複雜攻擊手法， 美國應用程式安全公司Veracode產品長（CPO）Brian Roche指出，這驅使AI在資安領域發揮防禦優勢。他認為AI驅動的資安防禦系統能在威脅造成損害前，主動辨識並消除自動化攻擊。這場AI對抗的競爭，不僅將推動資安行業創新，還會帶來更先進的安全解決方案。

七，多元威脅與AI應對策略

AI是資安解決方案，也是雙刃劍。駭客善用AI發展複雜攻擊，資安領域需更多元對策。AI對抗AI驅使資安領域創新，產生更先進的解決方案。現今AI安全解決方案已廣泛應用於辨識和處理威脅、自動化事件回應，以及個性化的安全控制。未來這些解決方案將更複雜，能夠從經驗中學習，即時適應新威脅，使得AI驅動的資安防禦系統能在威脅造成損害之前主動辨識並消除自動化攻擊。在這快速演進的資安環境中，組織需要積極引進AI和機器學習，以維持領先地位。

2024年的AI資安展望

2024年，AI與資安的對抗將成為一場充滿挑戰與機遇的戰役。虛假資訊攻擊、生成式AI的運用、影子AI的崛起，以及AI間的競爭，都將影響資安發展的關鍵因素。在這場演變中，企業需積極運用AI技術，強化資安體系，同時也要警覺AI在社交工程攻擊中的風險。透過深入了解並善用AI，我們能夠在這個數位時代維護更安全的環境。

資料來源：MSSP Alert

瀏覽 879 次