不受控難預測 馬斯克籲暫停「人工智慧危險的競賽」
編譯/莊閔棻
一些知名的人工智慧研究人員,包括特斯拉執行長馬斯克,簽署了一封公開信,呼籲世界各地的人工智慧實驗室,暫停開發大規模的人工智慧系統,他們聲稱這種系統將「對社會和人類帶來深刻風險」,並對此感到擔憂。
![](https://www.technice.com.tw/wp-content/uploads/2023/03/101161892_m-2-1024x535.jpg)
根據外電綜合報導,這封信是由非營利性的「生命未來研究所」(Future of Life Institute)發表的。其指出,為了開發和部署機器學習系統,人工智慧實驗室目前正被鎖定在一場「失控的競賽」中。該信寫道:「沒有人,甚至他們的創造者,都沒辦法能夠理解、預測或可靠地控制(人工智慧)。」
因此,他們呼籲所有人工智慧實驗室,立即暫停比GPT-4更強大的人工智慧系統的訓練,至少6個月。信中指出,「這種暫停應該是公開的、可核查的,並包括所有關鍵行為者。如果這種暫停不能迅速頒布,政府應介入並實施暫停。」
信中寫道:「當代人工智慧系統現在在一般任務上變得具有人類競爭性, 我們必須問自己: 我們應該讓機器把宣傳和不真實的東西充斥我們的資訊渠道嗎?」他們提出了若干個問題,包括:「我們是否應該把所有的工作都自動化,包括有成就感的工作?我們是否應該開發非人類的大腦,使其最終超過我們的數量,勝過我們的智慧,淘汰我們並取代我們?我們是否應該冒著失去對我們文明的控制的風險?」信中還說:「這樣的決定絕不能委託給這些未經選舉的科技業領導人。」
信中指出,暫停將提供時間,讓人們為人工智慧系統引入「共享安全協議」。 這些專家表示:「只有當我們確信其效果是積極的,其風險是可控的,世界才應該推進強大的人工智慧系統的發展。」信中說:「人類可以透過人工智慧享受一個繁榮的未來。」而「在成功創造了強大的人工智慧之後,我們現在可以享受一個『人工智慧的夏天』,並給社會一個適應的機會。」
其他簽署信的人包括蘋果公司的聯合創始人史蒂夫沃茲尼亞克(Steve Wozniak)、企業家和2020年總統候選人楊安澤(Andrew Yang)、《人類三部曲》作者哈拉瑞(Yuval Noah Harari)、Skype聯合創始人Jaan Tallinn,以及一些其他知名的人工智慧研究人員和首席執行長。不過,OpenAI的首席執行長Sam Altman沒有簽署這封信。
然而,這封信不太可能對當前的人工智慧研究氛圍產生任何影響,因為像Google和微軟這樣的科技公司正急於部署新產品,安全和道德擔憂並非他們的要務之一。而政府迅速採取行動的可能性也很小,因為目前立法者在監管人工智慧方面做得很少,甚至有很多人都不了解這項技術。
生命未來研究所是一個位於馬薩諸塞州劍橋市的非營利性組織,其為人工智慧連帶而來的責任和道德發展進行宣導。其創始人包括,麻省理工學院宇宙學家Max Tegmark和Skype聯合創始人Jaan Tallinn。
參考資料:The New York Times、The Verge、CNBC
瀏覽 461 次