Google網路安全新報告出爐　警告生成式AI將加劇網路攻擊

編譯／莊閔棻

隨著生成式人工智慧（AI）等技術的發展變得更加智慧，網路安全攻擊也不斷在進步。Google的新網路安全預測就揭示，隨著AI的崛起，也帶來大家應該注意的新威脅。日前，Google發布了《2024 年Google雲端網路安全預測》，該報告是與許多Google雲端安全團隊合作編寫的，深入探討2024年的網路環境。

生成式AI和LLM將被壞人利用

據外媒報導，Google的報告發現，到2024年生成式AI和大語言模型（LLM）將被用於各種網路攻擊，如網路釣魚、簡訊和其他社會威脅操作，使生成的語音和視訊等內容和材料顯得更加真實。到未來，基於生成式AI在模仿自然語言方面做得很好，因此網路釣魚攻擊的致命弱點，包括拼字錯誤、語法錯誤和缺乏文化背景將更難被發現。

更多新聞：公開最強模型GPT-4 Turbo 　OpenAI首屆開發者大會公告一次看！

一般AI就可以進行攻擊

該報告還預測，作為付費服務提供的LLM和其他生成式AI工具將會如何越來越多，並讓攻擊者可以更輕鬆、更有效地部署攻擊。然而，惡意AI或LLM甚至不是完全必要的，畢竟使用生成式AI來創建內容本身就並不帶有惡意，但其也可以被有心人士用來它攻擊受害者以實現自己的目標。如，先前就有詐騙者利用AI來冒充需要幫助的家人或朋友的聲音，以騙取人們的錢財。

AI假新聞將減少新聞公信度

另一個潛在的生成型AI威脅包括資訊操作。 只需使用AI提示，攻擊者就可以使用生成式AI模型來創建假新聞、假電話以及深度偽造的照片和影片。這些操作可能會進入主流新聞，進而降低公眾對新聞和線上資訊的信任，以至於每個人都變得更加懷疑或不再信任他們看到的新聞。Google的報告稱：「這可能會使企業和政府在不久的將來與受眾互動變得越來越困難」。

AI也能用於網路防禦

不過，雖然攻擊者正在使用AI來增強攻擊強度，但網路防禦者也可以利用該技術來進行更先進的防禦。Google Cloud on AI 首席資訊安全長 Phil Venables 表示：「AI已經為我們的網路防御者提供了巨大的優勢，使他們能夠提高能力、減少辛苦工作並更好地防禦威脅。我們預計這些能力和優勢將在 2024 年激增」。生成式AI對於防禦者的一些用例包括利用它來合成大量資料、產生可操作的檢測，並以更快的速度採取行動等。

參考資料：zdnet

瀏覽 627 次