AI教父警告：AI可能帶來「災難性」發展

編譯／莊閔棻

人工智慧（AI）專家似乎都相信，AI有導致「災難性」影響的可能。包括特斯拉首席執行長馬斯克、蘋果公司聯合創始人史蒂夫沃茲尼亞克、非營利性的「生命未來研究所」（Future of Life Institute）的創始人Anthony Aguirre，及「AI」教父Yoshua Bengio和Geoffrey Hinton都對此提出警告。

以下是這幾位專家的看法：

• Yoshua Bengio：「 AI教父」、加拿大蒙特婁大學電腦科學教授

Bengio認為AI的影響可能是「災難性的」。他說：「雖然今天的系統離構成生存風險還差得很遠，但在一年、兩年、五年後呢？不確定性太多。這就是問題所在。我們不能確定會不會在某個時刻發生災難性的事件。」

作為「AI教父」之一，Bengio與Geoffrey Hinton和楊立昆一起獲得2018年的圖靈獎。

• Geoffrey Hinton：「AI教父」、多倫多大學教授、電腦科學家

Hinton表示，他對他一部分人生的工作感到後悔，並特別指出AI的危險性。這位曾在Google工作十多年的AI專家表示：「我用一個正常的藉口安慰自己：如果我不做，別人就會做。但很難說你要如何防止壞蛋利用AI做壞事。」

• Anthony Aguirre：生命未來研究所創始人、加利福尼亞大學聖塔克魯茲分校的理論宇宙學家

Aguirre表示：「隨著AI變得更加自主，它可能篡奪當前人類和人類管理機構的決策和思維。」；「在某個時候，人類會失去對這個大型機器的掌握，讓其控制社會和經濟，且無法被關閉。」

Aguirre創立的「生命未來研究所」在 3 月份發表一封公開信，要求各大實驗室暫停開發高級AI六個月。簽署人包括 Bengio、馬斯克和史蒂夫沃茲尼亞克。

2023年5月，Bengio 也和 AI 實驗室 OpenAI、DeepMind 和 Anthropic 的首席執行長共同簽署 AI 安全中心（CAIS）的一份聲明。聲明指出：「減輕 AI 滅絕的風險應該與其他社會規模的風險一起成為全球優先事項，如流行病和核戰爭。」

參考資料：Insider、The New York Times

瀏覽 396 次