不受控難預測　馬斯克籲暫停「人工智慧危險的競賽」

編譯／莊閔棻

一些知名的人工智慧研究人員，包括特斯拉執行長馬斯克，簽署了一封公開信，呼籲世界各地的人工智慧實驗室，暫停開發大規模的人工智慧系統，他們聲稱這種系統將「對社會和人類帶來深刻風險」，並對此感到擔憂。

根據外電綜合報導，這封信是由非營利性的「生命未來研究所」（Future of Life Institute）發表的。其指出，為了開發和部署機器學習系統，人工智慧實驗室目前正被鎖定在一場「失控的競賽」中。該信寫道：「沒有人，甚至他們的創造者，都沒辦法能夠理解、預測或可靠地控制（人工智慧）。」

因此，他們呼籲所有人工智慧實驗室，立即暫停比GPT-4更強大的人工智慧系統的訓練，至少6個月。信中指出，「這種暫停應該是公開的、可核查的，並包括所有關鍵行為者。如果這種暫停不能迅速頒布，政府應介入並實施暫停。」

信中寫道：「當代人工智慧系統現在在一般任務上變得具有人類競爭性， 我們必須問自己： 我們應該讓機器把宣傳和不真實的東西充斥我們的資訊渠道嗎？」他們提出了若干個問題，包括：「我們是否應該把所有的工作都自動化，包括有成就感的工作？我們是否應該開發非人類的大腦，使其最終超過我們的數量，勝過我們的智慧，淘汰我們並取代我們？我們是否應該冒著失去對我們文明的控制的風險？」信中還說：「這樣的決定絕不能委託給這些未經選舉的科技業領導人。」

信中指出，暫停將提供時間，讓人們為人工智慧系統引入「共享安全協議」。 這些專家表示：「只有當我們確信其效果是積極的，其風險是可控的，世界才應該推進強大的人工智慧系統的發展。」信中說：「人類可以透過人工智慧享受一個繁榮的未來。」而「在成功創造了強大的人工智慧之後，我們現在可以享受一個『人工智慧的夏天』，並給社會一個適應的機會。」

其他簽署信的人包括蘋果公司的聯合創始人史蒂夫沃茲尼亞克（Steve Wozniak）、企業家和2020年總統候選人楊安澤（Andrew Yang）、《人類三部曲》作者哈拉瑞（Yuval Noah Harari）、Skype聯合創始人Jaan Tallinn，以及一些其他知名的人工智慧研究人員和首席執行長。不過，OpenAI的首席執行長Sam Altman沒有簽署這封信。

然而，這封信不太可能對當前的人工智慧研究氛圍產生任何影響，因為像Google和微軟這樣的科技公司正急於部署新產品，安全和道德擔憂並非他們的要務之一。而政府迅速採取行動的可能性也很小，因為目前立法者在監管人工智慧方面做得很少，甚至有很多人都不了解這項技術。

生命未來研究所是一個位於馬薩諸塞州劍橋市的非營利性組織，其為人工智慧連帶而來的責任和道德發展進行宣導。其創始人包括，麻省理工學院宇宙學家Max Tegmark和Skype聯合創始人Jaan Tallinn。

參考資料：The New York Times、The Verge、CNBC

瀏覽 461 次