前 OpenAI 研究員：高級人工智慧 5成機率可能終結世界
編譯／于文浩
一位前OpenAI主管、研究員Paul Christiano說，他擔心人工智慧會給人類帶來風險。他認為，在未來，人類或超越人類等級的人工智慧控制人類，甚至是消滅我們的可能性並非為零。
根據外媒綜合報導，在接受採訪時，OpenAI安全團隊的前語言模型調整主管Paul Christiano警告說，在不久的將來，高級人工智慧有很大的可能會帶來可能「終結世界」等級的災難。
經營著致力於理論人工智慧對齊策略的非營利組織「對齊研究中心」（Alignment Research Center）的Christiano指出：「總的來說，也許在擁有人類水準的人工智慧系統後不久，我們的世界就會有，50％的毀滅機率。」他說：「我認為也許有10％到20％的機會，人工智慧會接管（世界），（並造成）許多（或）大多數人類死亡。」
Christiano在2021年離開了OpenAI。對於他的離開，他曾解釋說，是因為他想「研究更多關於人工智慧對齊（AI alignment）的概念和理論問題」。所謂的「人工智慧對齊」是人工智慧安全研究的一個子領域，其重點是確保人工智慧系統與人類利益和道德原則保持一致。Christiano還補充說，OpenAI「不是最好的」研究類型。
專家們對通用人工智慧（AGI）的發展時間表存在分歧。一些人認為它可能需要幾十年，另一些人則說它可能永遠不可能實現，但人工智慧發展的快速讓大家開始人心慌慌。在史丹佛大學4月公佈的一項調查中，就有大約57％的人工智慧和電腦科學研究人員表示，人工智慧研究正在迅速向AGI發展，而36%的人表示，將重要決策委託給高級的人工智慧可能導致人類遭受「核能級災難」。
對於現在來說，由於公開可用的人工智慧系統仍然充滿了錯誤和誤導資訊，Christiano和其他許多專家都提醒不要進展太快。先前，其他人工智慧專家，包括Christiano和億萬富翁馬斯克，在3月份就發布了一封公開信，呼籲暫停訓練人工智慧系統六個月，並先想想監管方案。
瀏覽 822 次
