ChatGPT  如何成為駭客網路攻擊利器？

編譯／鄭智懷

聊天機器人 ChatGPT 在2022年年底推出後快速竄紅，掀起人工智慧（AI）投資旋風以及網路熱潮。最新研究指出，ChatGPT出色的語言與查詢功能足以扮演網絡犯罪分子的最佳軍師，協助找出攻擊目標的安全漏洞。

《Cybernews》旗下研究團隊利用ChatGPT對知名資安訓練網站「Hack The Box」進行滲透測試（penetration testing）後發現，ChatGPT提出包含程式碼的解釋、漏洞搜索以及程式碼修改等建議使團隊在短時間內攻破模擬目標。

研究團隊表示，儘管開發商OpenAI在ChatGPT內建拒絕不當查詢的設定，該系統仍然在實驗過程中提供大量的點子與關鍵字，團隊因此能透過針對性的搜尋，快速取得關鍵資料與自動化工具，掌握所需的有效酬載（payload）。

OpenAI的公開資料指出，ChatGPT拒絕不當請求的設定在部分情況下仍然會回應有害的指令或有偏見的行為。該公司正透過Moderation API警告或阻止某些類型的不安全內容，以及收集使用者回饋資料，協助該系統的改良作業。

研究員 Martynas Vareikis表示，「如同搜尋引擎，使用人工智慧也需要技巧。使用者必須知道如何提供正確的資訊以獲得最佳搜尋結果。不過，本次實驗發現，人工智慧可以就我們遇到的任何漏洞提供詳盡的建議。」

研究團隊負責人Mantas Sasnauskas進一步提到，實驗結果顯示ChatGPT指導使用者發現安全漏洞的潛力，「該漏洞可能被更多人利用，擴大威脅範圍。鑒於遊戲規則已經改變，企業和政府必須適應它。」

資料來源：Cybernews

瀏覽 1,123 次