歐洲刑警組織：不法活動濫用ChatGPT時代即將來臨

編譯／鄭智懷

近來ChatGPT等大型語言模型（LLM）的快速發展引起各界廣泛的關注，並且對各行各業造成程度不一的影響。歐洲刑警組織（Europol）號召各路專家學者共同探討，於荷蘭海牙當地時間27日發表的報告指出ChatGPT將完全顛覆犯罪圈，使不法分子更加容易掌握過去一無所知的犯罪領域及手法，從而在短期內對執法部門形成重大挑戰。

在名為《ChatGPT：大型語言模型對執法的影響》（ChatGPT：The impact of Large Language Models on Law Enforcement）的報告中，歐洲刑警組織分析使用GPT-3.5 和 GPT4的犯罪案例發現，儘管OpenAI在後者增添一系列降低其用於不法活動的限制設定，但是在前者可執行的犯罪行動依然可以在較新的版本中實踐，並且具有更大的破壞力。

在實務上，歐洲刑警組織特別強調詐騙、冒名頂替與社會工程，以及網路犯罪兩大領域。以前者而言，不法分子可以利用ChatGPT大量產出具高度可信度的文本，藉此冒充某特定個人或機構，遂行恐怖主義、散播不實訊息、網路詐騙等活動。就後者而論，ChatGPT已被用於開發各式惡意軟體，特別是OpenAI在最新版本的GPT4改進了程式碼編寫能力，使低階與高階網路犯罪者同時獲益。

鑒於ChatGPT為犯罪圈帶來助益已經成為現實，並且有持續擴大的跡象，歐洲刑警組織建議，執法界應該投入更多的人力與其他資源了解類似技術，以及可能受其影響的犯罪領域，同時也需要利用該技術累積專業知識、提高效率，並和相關利益者接觸以確保使用過程的安全性。

資料來源：Europol

瀏覽 578 次