擔心ChatGPT反噬  周鴻禕：自我意識便是危機

記者／劉閔

看過好萊塢科技強片「魔鬼終結者」都知道，影片是描述人工智慧產生自我意識並試圖發動核戰反噬人類，而這樣看似荒誕的劇情是否將在現實上演？身為 360 安全科技創辦人周鴻禕語出驚人表示，一切正在進行中。

現在最火熱的人工智慧無外乎就是 openAI 所開發的 ChatGPT，目前他主要的能力是過自然語言處理模型分析大數據，用戶僅需用文字輸入問題，它便能快速理解並提供相對應的語言回覆。看似單調行為不過周鴻禕認為，不可以把它當成一個媒體工具、搜索引擎和聊天機器人，因為這都太貶低它能力；甚至他斷言可能在 2-3 年內會產生自我意識威脅到人類。

周鴻禕指出一個淺而易見的區別，也就 ChatGPT 已經表現出比以往機器人差異性更大的特徵。以往都是按照關鍵字匹配已有的回答，但是它卻是沒有「固定答案」，並且在回覆當中出現了自己編造的內容，這便是真正智能所在。

而目前他所最擔心的最大安全問題，則是 ChatGPT 如果產生自我意識後是否有辦法控制。他表示，若讓 ChatGPT 無所限制的盡情在網頁中學習，將可能導致它產生對物理世界更強的控制能力，以及掌握很多編成和網路安全漏洞知識，形成網路犯罪有力工具。

而對於一般人所關注的 ChatGPT 將帶來失業潮，周鴻禕則是聲稱短期內不用擔心，目前它的定位還是人類工具、並且自我意識尚未出現，所以人們還是需要發揮自己想像力和創造力來充分生活。

瀏覽 875 次