人工智慧專家：神一般的AI　恐會毀滅人類

編譯／莊閔棻

著名的人工智慧投資者在《金融時報》的一篇文章中警告說，如果不對該技術的快速發展進行監管，未來「上帝般的人工智慧」可能會導致「人類被淘汰或毀滅」。

根據《Insider》的報導，音樂會尋找服務Songkick的聯合創始人兼董事長Ian Hogarth表示，作為一種可以自行發展的技術，通用人工智慧（AGI）在沒有監督的情況下將改變世界。

在其《金融時報》的文章中，Hogarth寫道：「直到現在，人類仍然是（機器）學習過程中的一個必要部分，這也是人工智慧進步的特點。然而，在某個時候，有人會想出如何將我們把這個循環中切斷，並創造出一個能夠無限自我完善的、神一般的人工智慧。」他說：「到那時，可能就太晚了。」

Hogarth警告說，由於缺乏監督，那些處於技術前端的人，如OpenAI和Alphabet旗下的DeepMind之間的激烈競爭，有可能出現不穩定的 「上帝般的人工智慧」。他寫道：「他們正在向終點線奔跑，卻不了解另一邊是什麼。」

Hogarth指出，一個三個英文字母的縮寫並不能概括AGI所代表的巨大意義，所以他將它稱為「神一般的人工智慧」。他認為：「神一般的人工智慧可能是一種，我們無法控制或理解的力量，而且可能迎來人類的淘汰或毀滅。」

Hogarth曾在劍橋大學學習工程學，其中包括人工智慧。後來他作為共同創立者創立了Songkick，一個音樂會尋找服務，並賣給了華納音樂集團。根據他自己的網站，此後他投資了50多家使用機器學習的新創公司，包括由OpenAI前僱員創立的Anthropic。

所謂的AGI指的就是：能夠像人類一樣理解一項任務或概念的人工智慧系統。不久前，OpenAI才發布了該公司最新的深度學習模型，GPT-4系統。該公司表示，GPT-4「在各種專業和學術基準上表現出人類水平的性能。」

AGI普遍被認為是這個快速發展的行業的主要目標，但其伴隨的高風險也讓專家紛紛作出警告。三年前，OpenAI首席執行官Sam Altman就曾覺得，他要建立廣泛有益的AGI的目標很荒謬。但到了今天這似乎聽起來不那麼荒謬了。就有專家表示，OpenAI有望在今年晚些時候推出GPT-5技術，而這可能使生成式人工智慧追上人類。然而，問題是，我們真的希望人工智慧變得那麼強大嗎？但，有什麼辦法可以阻止它的發生嗎？

參考資料：Insider

瀏覽 1,148 次