預防超智慧AI！OpenAI集中火力建立新團隊

編譯／于文浩

為了確保「超智慧」（superintelligent）AI 系統與人類需求保持一致，OpenAI 建立一個名為Superalignment的新團隊，並賦予其公司五分之一的計算能力。該團隊將專注於控制最先進的AI，確保其不會危害到人類。OpenAI首席科學家兼聯合創始人 Ilya Sutskever將領導此團隊。

據外媒報導，OpenAI 預計，超越人類智慧的「超智慧」AI可能在未來十年內到來，因此才決定組建 Superalignment 團隊。 Sutskever將制定戰略，確保未來AI不會脫離人類的控制或失控。 該團隊的目標是在四年或更短的時間內，完成超智慧AI技術的防護機制。

OpenAI指出，基於我們當前的AI對齊技術還不適用於超智慧，因此需要新的科學技術突破。該公司在一篇文章中寫道：「目前，我們還沒有一個引導、控制，或防止潛在的超智慧AI失控的解決方案。對於現在來說，AI仍然依賴於人類的監督，並根據人類回饋進行強化學習，但到了未來，人類無法可靠地監督比我們聰明的AI系統」。

具體來說，OpenAI 希望可以透過人類的回饋訓練AI系統，並最終發展出可以監督AI的AI，讓其能夠獨立判斷其他AI模型是否符合人類需求。 而對於人類來說，單個中介AI可能會比多個模型更容易管理，它也將可以承擔評估一些超出人類理解範圍的AI模型任務。

OpenAI計畫向公眾分享這一努力的成果，而促進非 OpenAI 模型的一致性和安全性也將是他們工作的重點。OpenAI表示：「雖然這個新團隊將專注於讓超智慧AI系統符合人類需求，但為確保我們的技術解決方案考慮到更廣泛的人類和社會問題，我們也正在積極與跨學科專家合作解決相關的社會技術問題。超智慧的對齊是我們這個時代尚未解決重大技術問題之一。我們需要世界上最優秀的人才一起解決這個問題」。

參考資料：voicebot.ai

瀏覽 39,257 次