欺詐信件 AI工具輕鬆生成「極具說服力」
編譯/Cynthia
在地下論壇中,一個名為WormGPT的人工智慧工具成為網路犯罪份子的利器,它被推崇為「黑帽替代方案」,用於商業信件犯罪(Business Email Compromise,BEC)等詐騙手法。WormGPT是一款特製的GPT-J開源大型語言模型版本,被設計出「專門用於惡意活動」,這使它能夠生成極具說服力且具有策略性的詐騙電子信件。研究人員進行了實驗,令人震驚的是WormGPT生成的信件不僅能夠引誘毫無戒心的帳戶使用者支付款項,還能迅速讓駭客取得期望的犯罪收益。
![](https://www.technice.com.tw/wp-content/uploads/2023/07/101663641_fb-link_normal_none-1024x535.jpg)
WormGPT的出現引發政府官員和安全專家的警惕,這種生成AI的濫用可能導致網路犯罪風險的劇增。BEC攻擊是一種隱蔽性高的詐騙手法,而WormGPT的能力則使得駭客無需擔心語言障礙或文稿內容引起的懷疑。由於商業AI工具通常會封鎖不道德的使用,但WormGPT卻無視這些道德界限,進一步加劇了對網路安全的威脅。而有些公司也開始嘗試將訓練成提供虛假資訊的AI工具散播出去。
WormGPT帶來的問題不僅限於BEC攻擊,它所展示的潛在風險涵蓋了各種網路犯罪活動,包括釣魚攻擊和其他形式的詐騙手法。對於駭客而言,這是一個無所不在的工具,能夠輕鬆地利用AI的力量進行更加精密且更難以檢測的攻擊。如何防止AI工具在犯罪領域的不當使用,成為了當前迫切需要解決的議題。
要應對生成AI帶來的巨大網路犯罪風險,需要綜合的防範策略,這包括對商業AI工具的進一步加強,以防止其被用於不道德和非法的活動。同時,政府和相關機構需要建立更強大的監測和檢測系統,以及加強對網路犯罪的打擊力度。網路使用者也應提高警惕,確保自己不會受到網路犯罪的影響。在AI時代,保護網路安全是一項嚴峻的挑戰,我們必須共同努力,確保技術的發展造福於整個社會,而非成為犯罪份子的強力工具。
資料來源:The Record
瀏覽 591 次