英國專家警告：人工智慧無法控制且正造成傷害

編譯／莊閔棻

一位以對人工智慧的貢獻而聞名的英國科學家表示，強大的人工智慧系統「無法控制」，且「已經在造成傷害」。

專家警告，人類無法控制AI，且正在失控中。（圖／123RF）

根據英國《天空新聞台》的報導，日前簽署暫停開發人工智慧公開信的1000多名專家之一的Stuart Russell教授提到說，他之所以簽署了這封信，是因為「我們並不了解這些（更強大的）系統是如何工作的。我們不知道它們有什麼能力。這代表我們無法控制它們、無法讓它們乖乖聽話。」

這位加州大學柏克萊分校的電腦科學教授警告說：「這些系統會產生巨大的影響，透過操縱人們的方式，使他們甚至沒有意識到正在發生。」Russell指出，最大的擔憂之一是假消息和深度造假。他認為，隨著人工智慧的迅速發展，需要時間來「制定法規，以確保這些系統對人們有益而不是有害」。他說：「人們擔心假消息，擔心這些系統的輸出存在種族和性別偏見」。

作為範例，Russell就指出，儘管假消息做為「宣傳」目的已經存在了很長時間，但現在的區別是，人工智慧可以「操縱」任何人，使任何人「不那麼支持烏克蘭」。他說，這項技術將讀取某些人的社群媒體內容以及這些人曾經說過或寫過的東西，然後開展漸進式活動，並「調整」任何人的發言。他說：「這將是非常容易做到的。而真正可怕的是，我們（透過人工智慧）可以在午餐前對一百萬個不同的人這樣做。」

被問到這種事情現在是否正在發生，該教授也回答說：「很有可能是的。」他說，中國、俄羅斯和北韓都有龐大的團隊在「製造假消息」，而有了人工智慧，「我們就給了他們一個強大的工具」。

回到公開信上，Russell說：「這封信的關注點其實是關於下一代的系統。因為現在的系統在做這些事上的能力還有一些限制。」他認為，到了下一代，或之後的系統，企業們很有可能會被人工智慧掌管。他補充說：「你可能將看到由人工智慧主導的軍事宣導。」他也指出這封公開信背後的真正擔憂：「如果你正在建立比人類更強大的系統，那人類如何永遠保持對這些系統的控制？」

參考資料：Sky News

瀏覽 806 次