《人類三部曲》作者哈拉瑞：AI有10%可能性毀滅文明

編譯／莊閔棻

在《紐約時報》最近的一篇專欄文章中，寫了《人類三部曲》：《人類大歷史》、《人類大命運》和《21世紀的21堂課》的歷史學家和作家哈拉瑞（Yuval Harari）表示，他認為建立現今大型語言模型的技術公司，正陷入一場競賽中，而他們正爭相要把全人類送上有10%可能性會墜毀的飛機上。他呼籲人類應為此做好準備。

一項2022年關於未來人工智慧風險的調查，在超過700名頂尖學者和領先人工智慧公司背後的研究人員中，超過半數認為，未來的人工智慧系統有10%或更大的機會使人類滅絕（或類似的永久性和嚴重的喪失能力）。

• 社群媒體與人工智慧

哈拉瑞指出，在人工智慧與人類的第一次接觸的社群媒體戰上，人類輸了。社群媒體背後的人工智慧創造出各種幻象，加劇了社會的兩極分化，破壞了我們的心理健康，並使民主解體。讓數百萬計的人混淆幻覺與現實，社會無法達成共識。而現在大型語言模型則是我們與人工智慧的第二次接觸，這次，我們不能再輸了。

哈拉瑞提到，人類往往不是直接接觸到現實的。我們被文化所籠罩，透過文化稜鏡體驗現實：我們的政治觀點是由媒體報導和親友故事形成的；我們的生活偏好是由藝術和宗教來調整的。到目前為止，整個文化網路都是由身邊的他人共同編織的。而現在，我們將這個權利交到了人工智慧身上。

• 語言與文化

哈拉瑞表示，語言是人類文化的操作系統。從語言中，我們產生了神話、法律、金錢、藝術、科學、友誼、國家以及電腦程式碼。而現在，人工智慧對語言的掌握代表了，它現在可以入侵並操縱文明的操作系統。也就是說，透過對語言的掌握，人工智慧正在取得人類世界文明的萬能鑰匙。

對於人類來說，將文化交到人工智慧手上，可能會讓其迅速吞噬整個人類文化，包括我們幾千年來產生的一切，消化它，並開始湧出大量的新文化物品。不只是文章，還有政治演說、意識形態宣言、新邪教的準則等。這些都會對我們的社會和認知造成重大危害。

• 必須掌握人工智慧

哈拉瑞警告說，我們像是召喚了一個外星智慧。我們對它了解不多，只知道它非常強大，雖然該技術為我們帶來了很多好處，但同時也可能破壞我們文明的基礎。

因此，他呼籲世界各國領導人，嚴陣以待人工智慧所帶來的挑戰。哈拉瑞說，第一步是爭取時間，並為人工智慧世界的到來升級我們的機構。他指出，民主是一種對話，對話依賴於語言，而當語言本身被入侵時，對話就會中斷，民主就會變得無法維持。如果我們等待混亂的發生，再來補救就太晚了。哈拉瑞說，我們必須在人工智慧掌握我們之前學會掌握它。

參考資料：The New York Times

瀏覽 804 次