AI與科技奇異點|專家論點【張瑞雄】
作者:張瑞雄(前北商大校長,中華和平發展智庫執行長)
「科技奇異點」(technological singularity,以下簡稱奇點)一詞首先由數學家和計算機科學家Vinge在1993年的一篇「即將到來的奇點:如何在後人類時代生存」論文中提出,Vinge將奇點定義為未來的某個關鍵點,這時機器智慧超過人類智慧,導致科技進步的加速,從而根本上改變了文明的發展。
大多數人都熟悉人工智慧(AI)應用的氾濫,這些應用在使我們更加有效率和有創造力。我們有可以給文字提示就可以產生藝術(圖畫、動畫、曲調等等)的應用,以及最近很熱門的聊天應用ChatGPT,這引起了很多有關原創性、錯誤信息和剽竊的嚴重問題。
儘管有這些擔憂,AI仍變得越來越普遍和侵入性,這些新技術將不可逆轉地改變我們的生活。互聯網和智慧手機也改變我們的生活,但是與這些技術不同,許多哲學家和科學家認為AI有一天可以以(甚至超越)人類的方式來「思考」。這種可能性,加上我們對AI的日益依賴,是未來主義者認為奇點必將來到的原因。
根據未來學家和前谷哥創新工程師庫茲韋爾(Ray Kurzweil)的說法,具有人工智慧增強思維的人類就像一部在沒有速限的高速公路上奔馳的汽車,沒有速度限制地飛快前進。
在他2012年的書《如何創造一個心靈》中,庫茲韋爾提出,大腦皮層負責人類的一些高級功能,如感知、情感和認知,是一個有層次結構有模式的識別系統,如果能夠在機器中模仿,可能會帶來人工超級智慧。
庫茲韋爾預測奇點將在2045年來到,並認為它可能帶來一個超級智慧人類的世界,甚至可能是尼采式的超人:一個超越所有世俗限制,實現自己全部潛力的人。
但並非所有人都認為AI是一件好事,已故偉大的理論物理學家史蒂芬·霍金就曾警告說,超級智慧人工智能可能會導致世界末日,「全面發展人工智慧可能意味著人類的終結,AI將獨立地起飛,以越來越快的速度重新設計自己。由於人類受到緩慢的生物進化的限制,無法競爭,將被取代。」
最近OpenAI(開發ChatGPT的公司)發表了一篇博客文章,重申其實現AGI的承諾,其他公司肯定也會跟進。我們的生活很多方面正在被電腦演算法驅動,而我們常常無法察覺,因此也無法避免。奇點的許多特徵都承諾給我們生活帶來驚人的能力增強,但令人擔憂的是,這些AI幾乎都是私人企業的產物。
它們幾乎是無監管的,並且很大程度上取決於擁有比我們大多數人更多資源的衝動科技企業家。不管我們認為他們是瘋子、天真還是有遠見,我們都有權利知道他們的計劃,並需要有能力加以反駁或修正。
如果過去幾十年是任何參考,如臉書和推特讓我們的想法被影響左右,因此可以確定在涉及新科技的問題上,我們所有人都將受到影響,如果現在不想辦法介入,未來大家都是待宰的羔羊。
瀏覽 5,027 次