ChatGPT 最大的敵人！WormGPT允許網路犯罪分子輕易發起攻擊

編譯／黃竣凱

隨著生成式人工智慧（AI）興起，該技術也被有心人士用來謀取自身利益，為網路犯罪提供新途徑。根據 網路安全公司SlashNext 的調查結果，一種名為 WormGPT 的新型生成式AI網路犯罪工具正在崛起，讓人們暴露在網路釣魚和商業電子郵件入侵（BEC）等攻擊的危險中。

據外媒報導，安全研究員 Daniel Kelley 表示：「該工具是駭客專用版GPT 模型。 網路犯罪分子可以利用此技術自動建立高度可信的假電子郵件，並針對收件人進行個人化編輯，增加攻擊成功的機會。」該軟體的製作人將其描述為「ChatGPT 最大的敵人」，且「它可以讓你做各種非法的事情」。

在壞人手中，像 WormGPT 這樣的工具可能是一種強大的武器。WormGPT 不但沒有任何道德限制，甚至還允許新手網路犯罪分子在沒有技術資金的情況下，迅速大規模發動攻擊。Kelley 指出：「生成式AI可以創建語法完美的電子郵件，使它們看起來合法，並降低被標記為可疑的可能性。即使是技能有限的攻擊者也可以使用這項技術，並推動更廣泛的網路攻擊。」

為了降低AI風險，OpenAI 的ChatGPT 和 Google的 Bard也都紛紛開始推出措施，為打擊濫用大型語言模型 （LLM）偽造的網路釣魚電子郵件而努力。Check Point 軟體技術有限公司則在一份報告中表示：「Bard在網路安全領域的反濫用限制明顯低於 ChatGPT。因此，使用Bard生成惡意內容要容易得多」。

但與此同時，有心人士也正在對ChatGPT進行「越獄」測試，並設計專門的提示和輸入，讓人們可以操縱該工具生成涉及洩露敏感資訊、不當內容和執行有害程式碼的輸出。

參考資料：The Hacker News

※更多ChatGPT相關訊息，請參考【生成式AI創新學院】。

瀏覽 1,181 次