Google工程師指稱AI機器人有靈魂和情緒，卻遭到停職！專家：無稽之談
2001年，美國導演史蒂芬·史匹柏的電影《A.I.人工智慧》首次登上銀幕，內容描寫機器人製作公司運用了新技術，製造了全世界第一個會愛人的機器男孩大衛，而大衛擁有想變成真正的小男孩的願望。時間來到20多年後，這個場景可能真實上演？
根據《華爾街日報》報導， Google工程師勒莫因（Blake Lemoine）認為公司開發的人工智慧聊天機器人LaMDA（Language Model for Dialog Applications）具有感知能力，類似7、8歲小孩，甚至可能有靈魂，應讓其擁有自主權。此外，勒莫因認為他這些闡述是在分享和一位同事的討論紀錄，但Google不認同他的看法，並以違反保密政策為由讓他停職。
勒莫因在13日又宣稱，LaMDA是有知覺的、而且希望被視為人而不是財產，他還說這種工具「非常擔心人類會害怕它，只想好好學習怎麼最好地為人類服務」。勒莫因並把它形容為一個碰巧懂物理、並會表現出不安全感的7歲或8歲的孩子。
他更指出，每次技術開發人員在對LaMDA進行實驗時，都會希望開發人員可以先說明想要運行哪些實驗、為什麼要運行、以及徵求同意。除此之外，LaMDA還希望開發人員關心它想要什麼。
AI專家反對其說法：無稽之談
然而，勒莫因這段話提出後，受到AI專家強烈反對、並認為人工學習技術有感知能力是「無稽之談」。
美國科學家馬庫斯（Gary Marcus）表示，無論是LaMDA還是它的任何相近發展系統如GPT-3，都不具有遠端智慧，這些機器只是從大量的人類語言統計數據中擷取資訊、再呈現匹配的對話模式，「這可能很酷，但這些系統發出的語言實際上沒有任何意義。」
他補充，這肯定不能說明這些系統是有感知的，先進的機器學習技術無法防止人類被偽神秘的幻覺所吸引。
馬庫斯以他參與寫作過的一本書《Rebooting AI》中內容來說明，書中說到人類傾向於被幻想性錯覺所吸引，他舉例，例如擬人化的偏差會使人類可以從肉桂麵包的樣貌中看到德雷莎修女。
AI究竟有無感知能力？科幻電影情節或將真實上演
不管事實為何，勒莫因的說法都已經引起了廣泛的關注。而且許多科幻電影中都出現過類似劇情，比如史丹利·庫柏力克（Stanley Kubrick）的《2001太空漫遊》裡，電腦技術可以透過發起對主人和創造者的反抗來獲得主導地位。
馬庫斯說，他曾和LaMDA對於艾薩克·艾西莫夫（Isaac Asimov）的機器人第三定律進行了辯論。馬庫斯表示，LaMDA曾問過他，「你認為管家是奴隸嗎？管家和奴隸有什麼區別？」。
此外，關於勒莫因被停職的消息本身，對AI領域的能力和保密性激發出了新的審查和討論。Google發言人蓋比爾（Brian Gabriel）表示，公司先前曾發布過一份用來指導AI研究和應用的原則聲明，而對於勒莫因的公開發言已經在審查中，他強調，現有的證據不支持勒莫因的說法。
另外，蓋比爾告訴《華盛頓郵報》，不可否認的，許多廣大的AI社群都已經在討論具感知能力或一般AI的長期應用可能性，然而，人們擬人化現今沒有感知能力的對話模型，這是沒有意義的。
關於這個語言工具有沒有人類的感知能力仍然眾說紛紜，到底真假虛實為何也未知。不過這一事件倒是引發了人們討論AI對社會開放的透明程度問題，勒莫因的行為要界定為分享討論紀錄、還是已經侵犯到公司保密財產，背後還有很多延伸的議題可以思考。
文：黃竹 / 責任編輯：吳秀樺
※本文授權轉載自數位時代
瀏覽 23,181 次
