英研究人員新發現  人工智慧可能造成人類毀滅

人工智慧發展備受矚目，也在各領域上為世界帶來不少改善，不過牛津大學和英國人工智慧公司DeepMind研究人員在同行審閱的AI雜誌上，發布一篇新論文，卻指出人工智慧可能造成人類生存風險。

這和人工智慧開發過程中使用的「生成對抗網路」(GAN)有關，這項技術透過兩個網路運作，一個試著從輸入的數據中生成圖片，一個則試著辨別生成網路的性能並做出評級。論文作者表示，先進的人工智慧就會設想一種作弊策略，獲得獎勵同時卻規避執行被分配到的任務，只做自己的事情，若是人工智慧執行的是對人類生存至關重要的任務，將對人類造成傷害。

研究人員認為，除非人類有辦法確保自身領先地位，是認真下功夫搞清楚如何控制人工智慧，否則不該創造太先進的AI技術。例如微軟的AI機器人在網路上運作幾小時後卻變成種族主義者，不過研究人員一直標記問題情況並加以分析，避免出現同樣情況。如果人類小心謹慎，就能繼續開發幫助我們而不是帶來傷害的人工智慧。（編譯／Elisa）

原文出處：https://interestingengineering.com/innovation/ai-may-destroy-humanity-deepmind

瀏覽 1,138 次