OpenAI 執行長：ChatGPT　讓我常失眠

編譯／夏洛特

OpenAI 首席執行長 Sam Altman 常常因為 ChatGPT 可能帶來的危險而失眠。在其「世界巡迴」印度站的一場會議中，Altman表示，他害怕創建 ChatGPT 是一件「非常糟糕的事情」，並常常為此擔心到失眠。

據外媒報導，Altman 說，他擔心他的團隊在開發聊天機器人時「會遇到一些困難又複雜的事」。當被問及人工智慧（AI）是否應該像原子彈一樣受到監管時，Altman表示，必須有一個更好的審查過程的系統。他指出：「必須建立一個系統，這樣我們就可以對正在做這件事的人進行審查、發放許可，並在部署前進行安全測試。」

早先， Altman和OpenAI總裁Greg Brockman及首席科學家Ilya Sutskeve也在公司官網上發布一篇名為《超級智慧的治理》（Governance of superintelligence）的文章，並指出，作為一個起點，我們可能需要一個類似於「國際原子能總署」（IAEA）的機構，管理超級AI。他們寫道：「任何超過一定能力或計算資源門檻的努力，都需要接受一個國際權威機構的檢查，要求進行審查，看看是否符合安全標準，並對部署程度和安全級別進行限制等。」

AI的快速進步讓許多科技領袖和政府官員都感到擔憂。本月早些時候，Altman也與 350 多名科學家和技術領袖共同簽署一份聲明，強調關注AI風險的重要性。聲明中寫道：「與流行病和核戰爭等其他規模巨大的風險一樣，減輕AI帶來的風險也應該成為全球優先事項。」

3月，包括馬斯克和蘋果公司的聯合創始人史蒂夫沃茲尼亞克（Steve Wozniak）在內的一些知名的AI研究人員，也簽署一封公開信。呼籲世界各地的AI實驗室，暫停開發大規模的AI系統，他們表示，這種系統將「對社會和人類帶來深刻風險」。

參考資料：Insider

※更多ChatGPT相關訊息，請參考【生成式AI創新學院】。

瀏覽 519 次