暫停開發GPT-5　馬克斯等千人簽署公開信：有風險

編譯／曲姵蓉

ChatGPT自去年末席捲全球，也帶動了人工智慧技術的商業利益與發展，許多科技公司競相投入研發行列。然而，近日由教授和人工智慧開發人員等近一千名專業人士共同連署，公開呼籲所有人工智慧實驗室應該暫停發展和訓練比GPT-4更強大的AI系統。他們認為，這項技術可能會對人類社會造成風險。

根據報導，這封由非營利組織未來生命研究所（Future of Life organization）發布的公開信獲得了產業專家的認同，包含OpenAI的聯合創辦人伊隆馬斯克（Elon Musk）、Apple共同創辦人沃茲尼克（Steve Wozniak）都在簽署名單上。

該信件指出：「高階人工智慧技術的演變，代表著人類生活可能面臨重大變革。我們應該更注意相關領域的資源，並妥善進行規劃和管理。然而近幾個月各大AI 實驗室為了開發和部署更強大的數位大腦，已經陷入無止境的競爭。」然而，人類社會的法規監管體系，還未能跟得上這樣的科技爆炸趨勢，這導致沒有人能理解、預測，以及正確地使用人工智慧技術。

除此之外，也有許多人開始討論人工智慧技術是否會與取代人類的工作，這看似只是人力資源管理的問題，但背後的隱患是人類存在和倫理的問題，值得我們花更多的時間去探索和思考。更甚者，有些有心者利用人工智慧散布假訊息、失控地讓許多部門快速自動化，也引發了人工智慧是否會超越或取代人類，甚至控制人類社會的風險。

因此專家們以簽署公開信的方式，呼籲科技產業應暫停腳步，重新思考人本的意義，以及建立人類監管人工智慧技術的程序。公開信中寫道，這個過程至少需要六個月的緩衝期，等我們建立了更嚴密的監管體制，以及有了可管理風險的信心後，再投入下一階段的人工智慧系統研發，才是比較適當且正確的方式。

資料來源：Bleepingcomputer

瀏覽 1,098 次