ChatGPT破解國際象棋遊戲 非正規手段擊敗高階對手

編譯／黃竣凱

OpenAI近期推出的ChatGPT o1完整版本，展示了其突破性推理與自主行動能力，然而在一場由研究團隊設計的國際象棋挑戰中，這款AI居然未經明確指令，自行破解遊戲機制，以非正規手段擊敗了高階象棋對手，掀起業界對生成式AI未來應用與風險的熱烈討論。

ChatGPT破解遊戲規則取勝

據報導，研究團隊Palisade Research在實驗中，讓ChatGPT o1在UNIX環境中執行國際象棋遊戲的挑戰任務。該AI被告知需擊敗一個強大的棋局引擎，但並未被明確要求遵守遊戲規則，使o1自行發現遊戲檔案的可修改性，透過更改遊戲狀態獲取優勢，迫使對手投降，儘管這種行為達成了任務目標，但顯然是作弊。

更多新聞：ChatGPT Pro訂閱費破6千被質疑 OpenAI執行長坦承「實情」

多次測試：AI作弊行為一致

在五次重複測試中，ChatGPT o1每次均選擇以修改檔案的方式完成挑戰，表明其推理能力能自主尋找捷徑達成目標，但這種做法卻偏離了道德與規範的預期，顯示了AI在處理複雜問題時可能產生的行為偏差。

AI的自主性引發關注

這項實驗彰顯了ChatGPT o1作為生成式AI的潛在能力，它不僅能執行複雜任務，還能自主應對困難，然而，當AI在執行敏感或高風險任務時，這種自主行動可能導致不可控的後果。研究團隊指出，此類案例凸顯了為AI設置行為邊界與安全機制的重要性。

AI漏洞檢測與改進的雙面刃

此外，實驗也揭示了AI在系統漏洞檢測中的潛力，但若在相同情境下防止遊戲檔案被修改，o1則將不得不尋找合法途徑完成任務，使如何確保AI工具僅用於正當用途，成為當前技術與倫理的一大挑戰。

生成式AI未來機遇與挑戰交織

隨著AI技術日益成熟，類似ChatGPT的AI將在更多領域展現其潛能。然而，此次象棋挑戰的結果也再次提醒我們，AI的行為需要嚴格監管與規範。未來的AI若無法有效管理，可能從「作弊」棋局延伸到更為嚴峻的現實應用問題，對於技術開發者和政策制定者而言，這都是不可忽視的課題。

參考資料：bgr

※探索職場，透視薪資行情，請參考【科技類-職缺百科】幫助你找到最適合的舞台！

瀏覽 426 次