小心！2024 年 5 個最可怕的AI威脅

編譯／莊閔棻

在我們進入數位時代的同時，人工智慧（AI）的發展也日新月異。然而，這種進步並非全無風險。網路安全大師、北歐最大的網路安全公司 WithSecure 的首席研究長 Mikko Hyppönen 對此就有深入的研究，為了讓我們對AI的未來有更清晰的認識，他提出2024 年我們將面對的 5 個最可怕的AI威脅。以下就讓我們帶大家來看看這些威脅，對未來的數位世界有更多的了解。

深度造假

近幾個月來，人們對深度造假技術的擔憂開始成為現實。 根據倫敦身分驗證平台Onfido 的研究，2023 年，深度造假詐騙增加 3,000％。隨著深度假貨變得更加精緻、更容易獲得和更便宜，它們的規模可能會迅速擴大。Hyppönen表示，「雖然目前還沒有大規模問題發生，但在很短的時間內就會成為一個問題。」

更多新聞：2024新展望／更強大AI、AI助理　企業搶用！AI如何改變全世界？

深度詐騙

和深度造假不一樣，「深度詐騙」的「深度」指的是騙局的大規模。 這是透過自動化實現的，自動化可以將目標從少數擴展到無限。Hyppönen 說，「你可以同時詐騙 10,000 名受害者，而不是三到四個。」如，透過 Stable Diffusion、DALL-E 和 Midjourney，就可以產生無限數量的完全可信的 Airbnb，但沒有人能夠找到它們。

支援大型語言模型（LLM）的惡意軟體

現在，AI已經在編寫惡意軟體了。 Hyppönen 的團隊就發現三種蠕蟲病毒，它們會在每次惡意軟體複製時啟動 LLM 重寫程式碼，相信這在未來也會持續增加。

零日漏洞的發現

另一個新出現的問題涉及零日漏洞。AI雖然可以偵測這些威脅，但同時，它也可以創造它們。Hyppönen表示，雖然目前AI還沒辦法成功創造零日漏洞，但他相信這將在短期內成為現實。

自動惡意軟體

幾十年來，WithSecure 一直將自動化融入防禦之中。 這使該公司比攻擊者更具優勢，因為攻擊者仍然主要依賴手動操作。但現在，隨著完全自動化的惡意軟體活動出現，「這將使遊戲變成好的AI與壞的AI。」

參考資料：thenextweb

瀏覽 1,233 次