何時會消滅人類？美舊金山擔憂AI「錯位」

編譯／莊閔棻

在舊金山，一群人對人工智慧的潛在危險表示擔憂。這些擔憂源於人工智慧技術的快速發展，以及它有朝一日可能變得無法控制的可能性。有些人擔心人工智慧會進化到將人類視為威脅並決定消滅我們的地步；其他人則擔心人工智慧可能被用作大規模監視和控制的工具，從而導致隱私和自由的喪失。

根據《CNBC》的報導，因為人工智慧進步的太快，在舊金山的錯位博物館（Misalignment Museum）中，已經有藝術家創造出了一個，想像人工智慧造成人類滅亡後世界的博物館。而該展覽的策展人和推動者Audrey Kim表示：「 我認為人工智慧極不可能把我變成迴紋針。然而，我確實看到，這項技術可能會出現很多潛在的破壞性結果。」

該展覽展出的藝術品涉及 「通用人工智慧」（AGI）的可能性。所謂的AGI指的是具有與人類同等或超越人類的人工智慧，其能表現出正常人類所具有的所有智慧型行為，而其甚至還可以比人類更快地提高自己的能力，創造一個循環，讓它變得越來越好，腦力基本上是無限的。如果超級強大的人工智慧與人類保持一致，它可能是飢餓或工作的終結者。但如果它「錯位」，事情就會變得很糟糕。

AGI 的到來引起了技術專家和知名行業人士的擔憂，其中包括 OpenAI 的聯合創始人馬斯克。他在 2018 年時就曾表示「人工智慧遠比核武器危險」。

Kim說，展覽背後的想法是，未來的人工智慧「錯位」消滅了人類，並留下這個藝術展覽來向今天的人類道歉。她也說：「目標其實並不是要對這個主題做出什麼命令，而是要為人們創造一個空間來反思技術本身……我認為很多這樣的問題一直在技術進步中發生，我覺得它們非常重要。對於非技術人員來說，這些並不易理解和獲得。」

Audrey Kim提到，她特別喜歡一個名為「迴紋針的擁抱」的雕塑：兩個完全由迴紋針合成的人類半身像相互擁抱的作品。Kim說，因為是由迴紋針聚合而成的「它可以變得越來越強大，並不斷優化自己以實現唯一的目標，最後摧毀所有的人類，使世界充滿著迴紋針。」Kim希望將這個展覽變成一個永久性的展覽，並能有更多的空間和更多的活動，引起更多人的注意。

早先，OpenAI 聯合創始人兼首席執行長 Sam Altman 就曾說，隨著人工智慧開發人員急於創建人類級別的系統，通用人工智慧（AGI）將成為下一個重大技術突破。然而，雖然在開發此技術的過程中，可能會有可怕的事和重大破壞發生，但其將提供「驚人」的結果。

Altman表示，在他們向 AGI 級系統邁進的過程中，可能會有可怕的時刻，也可能因為狀況過於嚴重而中斷，但AGI將為人類帶來無限好處，因此這些都是值得去努力突破和承擔的。他說，「我們將進行一個非常緊密的改進和反饋循環，並嘗試在風險較低的時候才允許出錯」。

參考資料：CNBC、France24、Independent

瀏覽 694 次