AI專家 ：AI像傳染病及核武器　人類有滅絕風險

編譯／莊閔棻

人工智慧（AI）公司首席執行長聯合簽署一份由「人工智慧安全中心」（Center for AI Safety、CAIS）發布的聲明，警告AI將帶來使人類「滅絕」的風險。簽署人包括AI新創公司OpenAI、DeepMind和Anthropic的首席執行長Sam Altman、Demis Hassabis、Dario Amodei，及350 多名AI工作相關人士。

據外媒報導，這群AI專家認為，AI應該被視為與傳染病和核戰爭同等級的社會風險，並成為全球優先事項，共同制定相關政策。「AI教父」Geoffrey Hinton 、AI資深研究員Yoshua Bengio及微軟和Google的高層，也都是該聲明的簽署人。

目前OpenAI的Altman 和Anthropic的 Amodei 沒有對此做出回應。DeepMind 則表示：「AI將對社會產生變革性影響，我們必須了解它將帶來的潛在機遇、風險和危害。」並補充說，為了利用AI技術突破帶來的好處，同時降低危險風險，他們將致力於在其 AI 原則的指導下負責任地開發 AI，並強調與政策制定者和其他人的合作。

近幾個月來，隨著生成式AI工具快速發展，AI工具如ChatGPT 和 DALL-E等越來越受歡迎，人們的擔憂也隨之上升。此前，Hinton就為了討論AI的危險性而離開Google。他表示，AI將讓大家都不能分辨「什麼是真實的」而造成重大危害；OpenAI的Altman也一直呼籲政府要儘速做出監管。

早在 2023年3 月份，包括特斯拉首席執行長馬斯克在內的，其他AI專家也曾簽署過一封公開信，呼籲暫停開發比 OpenAI 的 GPT-4 更強大的 AI 模型六個月，以爭取時間設計和實施AI安全協議。

參考資料：Insider、The New York Times、Tech Crunch   

瀏覽 424 次