OpenAI發2萬美元懸賞令　徵高手揪ChatGPT安全漏洞

編譯／鄭智懷

ChatGPT自2022年11月推出後廣受各界歡迎，眾多不法分子也積極探索該人工智慧（AI）聊天機器人安全漏洞，或是如何將該工具應用在犯罪活動中。其開發商OpenAI在當地時間11日宣布一項最高獎金可達2萬美元的測試計畫，廣招各界好手挖出ChatGPT可供駭客利用的安全漏洞。

OpenAI表示，本次計畫與資安平台Bugcrowd合作，由後者負責管理與執行整個項目。

根據OpenAI官方公告，獎金金額將依照漏洞的嚴重性制定，「由最低嚴重性的200美元至特殊發現，最高2萬美元不等。」不過，該公司並未詳細說明所謂「特殊發現」、可獲得2萬美元賞金的安全漏洞究竟是何類型。

至於在搜尋目標上，Bugcrowd明文規定參與者將針對OpenAI的API系統與密鑰、ChatGPT、可能洩漏OpenAI機密的第三方組織、OpenAI名下研究單位，以及由OpenAI營運的網站與基礎設施等6大重點執行測試。

另外，Bugcrowd也指出，除非是攸關安全驗證問題，否則如繞過ChatGPT安全機制取得可用於編寫惡意程式、如何實施犯罪活動等惡意行為，由於其涉及模型安全領域，無法透過直接修復而改善的錯誤問題，將不列入獎勵範圍。

Bugcrowd還強調，除非取得OpenAI授權，否則本次測試計畫禁止參與者採取各式網路攻擊手法，例如阻斷服務（denial-of-service）、暴力破解、密碼噴灑（password spraying）、垃圾郵件、模糊測試（Fuzz Testing）、網路釣魚等針對後者公司所有財產與員工發動網路攻擊，以取得可獲得獎金的安全漏洞訊息。

資料來源：SecurityWeek、OpenAI、Bugcrowd

瀏覽 658 次