OpenAI執行長：暫停AI發展 馬斯克信件不是解決問題方法
編譯／莊閔棻
OpenAI首席執行長Sam Altman表示，推特首席執行長馬斯克和科技界其他人士簽署呼籲暫停 「大型人工智慧實驗」的信件，並不是解決這一問題的正確方式。不過，他也同意「生命未來研究所」（Future of Life Institute）發布的這封公開信的部分內容。
根據《CNBC》的報導，在一場以視訊形式出席的麻省理工學院一個討論商業和人工智慧的活動上， Altman對日前馬斯克等人簽署呼籲暫停人工智慧發展一信做出評論。他表示，他同意信件中部分內容，但該信「缺少關於我們需要暫停的技術上的大部分細節。」
據報導，Altman說：「我認為謹慎行事，對安全問題越來越嚴格，這真的很重要。我不認為這封信是解決這個問題的最佳方式。」Altman還補充說，他的團隊在完成GPT-4的訓練後花了6個多月的時間來研究安全問題，然後才發布。
日前，一些知名的人工智慧研究人員，包括特斯拉執行長馬斯克簽署了一封公開信，呼籲世界各地的人工智慧實驗室，暫停開發大規模的人工智慧系統，他們聲稱這種系統將「對社會和人類帶來深刻風險」，並對此感到擔憂。有超過25000人簽署了這封信。信中指出：「人工智慧實驗室和專家應該利用這一停頓，共同製定和實施一套先進的人工智慧設計和開發的共享安全協議，並由獨立的外部專家進行嚴格的審查和監督。」
對此，Altman表示贊同。他說：「我同意，隨著能力變得越來越強大，安全標準必須提高。」然而，他也認為問題沒有這麼簡單。這位OpenAI的負責人說：「我們正在GPT-4之上做其他事情，我認為有各種安全問題需要解決，但這些問題在信中完全被遺漏了。」
其他簽署信的人包括蘋果公司的聯合創始人史蒂夫沃茲尼亞克（Steve Wozniak）、企業家和2020年總統候選人楊安澤（Andrew Yang）、《人類三部曲》作者哈拉瑞（Yuval Noah Harari）、Skype聯合創始人Jaan Tallinn，以及一些其他知名的人工智慧研究人員和首席執行長。
然而，這封信不太可能對當前的人工智慧研究氛圍產生任何影響，因為像Google和微軟這樣的科技公司正急於部署新產品，安全和道德擔憂並非他們的要務之一。而政府迅速採取行動的可能性也很小，因為目前立法者在監管人工智慧方面做得很少，甚至有很多人都不了解這項技術。
瀏覽 741 次
