AI要學習犯錯才是真智慧｜專家論點【張瑞雄】

作者：張瑞雄（前北商大校長）

人工智慧，一個會思考的電腦或機器，一直是人類的夢想，現在由於半導體和網路技術的進步，似乎已經近在咫尺，但真的是這樣嗎？1950年，在電腦時代的黎明之際，艾倫·圖靈（Alan Turing）發表了後來成為他最著名的文章之一的《計算機器與智慧》，其中他提出了一個問題：「機器能思考嗎？」

圖靈沒有試圖定義術語「機器」和「思考」，而是概述了一種不同的方法來回答這個問題，該方法源自維多利亞時代的客廳娛樂，稱為模仿遊戲（後來有拍一部有關圖靈生平的電影就叫做模仿遊戲）。 遊戲規則規定，一男一女在不同的房間裡，通過手寫筆記與裁判交流，裁判必須猜出誰是男誰是女，男子的任務就是試圖模仿女子的思考，因此裁判的任務變得複雜。

受到這個遊戲的啟發，圖靈設計了一個思想實驗，其中一名參賽者被計算機取代。圖靈認為，如果這台計算機可以來玩模仿遊戲，以至於裁判無法判斷他是在與機器還是人類交談，那麼可以合理地得出結論，這台機器是有智慧的。

這個思想實驗被稱為圖靈測試，直到今天，仍然是人工智慧領域最著名和最具爭議的想法之一。該測試的持久吸引力在於，它對「機器能思考嗎？」這個問題給出了一個可以驗證的答案。

但仔細閱讀圖靈的論文就會發現一個小細節，該細節給測試帶來了歧義，這表明圖靈的意思也許更多的是對機器智慧的哲學挑釁，而不是實際測試。

在《計算機器與智慧》的一節中，圖靈用想像中的未來智慧計算機模擬了測試的樣子如下。

人問：請給我寫一首以福斯橋為主題的十四行詩。（福斯橋是1889年興建於蘇格蘭福斯河河口上方的懸臂式鐵路大橋）

機器答：這件事就別指望我了，我從來不會寫詩。

人問：34957+70764=?

機器答：（停頓約30秒後給出答案）105621。

人問：你會下棋嗎？

機器答：是的。

在這次交流中，計算機實際上在算術上出現了錯誤。這些數字的真實總和是 105721，而不是105621。圖靈這位傑出的數學家不太可能偶然留下這個錯誤， 更有可能的是，對於警惕的讀者來說，這是一種複活節彩蛋。

圖靈似乎在他文章的其他地方暗示，錯誤計算是一種程式技巧，是一種愚弄裁判的花招。圖靈明白，如果仔細閱讀的讀者發現了這個錯誤，他們就會相信自己是在與人類通信，這是假設機器不會犯這樣基本的算術錯誤。圖靈寫道，一台機器可以「以某種方式故意引入錯誤，以迷惑裁判」。

雖然使用錯誤來暗示人類智慧的想法在1950年可能很難理解，但它已經成為從事自然語言處理研究的一種設計實踐。例如，2014年6月，一款名為 Eugene Goostman的聊天機器人成為第一台通過圖靈測試的計算機。但批評者很快指出，它之所以能夠通過測試，是因為有一個內置的作弊行為：機器模擬了一個以英語為第二語言的13歲男孩，這意味著機器在句法和語法上的錯誤以及知識的不完整被誤認為是天真和不成熟，而不是自然語言處理能力的缺陷。

所以計算機可以被設計成犯一些簡單的錯誤，以給人人性的印象，未來人工智慧假如要騙過和勝過人類，有時裝傻裝笨可能就是最好的方法。

瀏覽 1,072 次