魔高一尺防不勝防  駭客找出ChatGPT限制惡意用途新方法

編譯／鄭智懷

在ChatGPT推出以後，各界積極討論如何利用該軟體製作網路釣魚信件，或是編寫惡意程式。資安廠商Check Point的威脅情報部門 Check Point Research在地下論壇發現，駭客已經找到利用OpenAI API繞過ChatGPT惡意用途限制的方法，滿足其編寫網路釣魚信件與開發惡意軟體的需求。

截至目前為止，用戶可以使用的OpenAI版本有Web與API版。而Check Point Research發現駭客主要利用後者進行不法犯罪。

Check Point Research表示，根據OpenAI的政策，其名下產品設置在其平台上創建惡意內容的限制。譬如用戶若直接使用ChatGPT查詢假冒銀行的網路釣魚信件，或是如何寫出惡意軟體，該軟體將拒絕回答問題。

然而，研究員發現，當前版本的 OpenAI API，例如GPT-3，可以透過其他程式使用，並且沒有設立任何限制惡意用途的反濫用機制。因此，駭客可以利用其設定，將編寫網路釣魚信件等惡意內容整合進Telegram 聊天機器人，繞過ChatGPT惡意用途限制之設定。

研究員表示，駭客在地下論壇分享一個使用OpenAI API的Telegram 聊天機器人，提供編輯網路釣魚信件，以及測試的功能。該機器人提供前20次查詢免費，以及之後每查詢100次就收費5.5美元的服務。

而在第二個案例中，駭客則聲稱已經開發出使用OpenAI API編寫，可以用來直接繞過ChatGPT惡意用途限制的腳本。

研究員最後補充，網路犯罪分子未來會繼續探索如何利用ChatGPT進行不法活動，摸索濫用OpenAI 模型的新方式。

資料來源：Check Point

瀏覽 1,697 次