欺詐信件　AI工具輕鬆生成「極具說服力」

編譯／Cynthia

在地下論壇中，一個名為WormGPT的人工智慧工具成為網路犯罪份子的利器，它被推崇為「黑帽替代方案」，用於商業信件犯罪（Business Email Compromise，BEC）等詐騙手法。WormGPT是一款特製的GPT-J開源大型語言模型版本，被設計出「專門用於惡意活動」，這使它能夠生成極具說服力且具有策略性的詐騙電子信件。研究人員進行了實驗，令人震驚的是WormGPT生成的信件不僅能夠引誘毫無戒心的帳戶使用者支付款項，還能迅速讓駭客取得期望的犯罪收益。

WormGPT的出現引發政府官員和安全專家的警惕，這種生成AI的濫用可能導致網路犯罪風險的劇增。BEC攻擊是一種隱蔽性高的詐騙手法，而WormGPT的能力則使得駭客無需擔心語言障礙或文稿內容引起的懷疑。由於商業AI工具通常會封鎖不道德的使用，但WormGPT卻無視這些道德界限，進一步加劇了對網路安全的威脅。而有些公司也開始嘗試將訓練成提供虛假資訊的AI工具散播出去。

WormGPT帶來的問題不僅限於BEC攻擊，它所展示的潛在風險涵蓋了各種網路犯罪活動，包括釣魚攻擊和其他形式的詐騙手法。對於駭客而言，這是一個無所不在的工具，能夠輕鬆地利用AI的力量進行更加精密且更難以檢測的攻擊。如何防止AI工具在犯罪領域的不當使用，成為了當前迫切需要解決的議題。

要應對生成AI帶來的巨大網路犯罪風險，需要綜合的防範策略，這包括對商業AI工具的進一步加強，以防止其被用於不道德和非法的活動。同時，政府和相關機構需要建立更強大的監測和檢測系統，以及加強對網路犯罪的打擊力度。網路使用者也應提高警惕，確保自己不會受到網路犯罪的影響。在AI時代，保護網路安全是一項嚴峻的挑戰，我們必須共同努力，確保技術的發展造福於整個社會，而非成為犯罪份子的強力工具。

資料來源：The Record

瀏覽 633 次