防止失控反噬　專家提現代機器人五大定律

編譯／曲姵蓉

隨著機器人越來越智慧，關於機器人的控制、監管、發展方向以及人類隱私等憂患浮上檯面，越來越多人開始擔心機器人失控或者反過來侵害到人類，矽谷機器人公司（Silicon Valley Robotics）總經理Andra Keay根據科幻小說家以撒·艾西莫夫提出的「機器人三定律」，提出了現代機器人適用的五大機器人定律，試圖解決機器人商業化推廣過程中會面對的質疑。

根據報導，Andra Keay提出的五個機器人定律分別是：

• 機器人不得殺人。

首先，我們應該全面禁止使用機器人進行武器化行為，只需要針對防衛部隊或緊急事故的人員進行探討並合法化他們的工作內容即可。

但針對這一點有兩派說法，有些人完全反對任何形式的致命性自主武器系統（LAWS），另一派則認為我們只需要將界線標明清楚，例如機器人武器一定需要受到人類指揮和法律責任等，就不算違法。

• 機器人應該要遵守法律。

再者，機器人設計過程一定要符合現有法律，例如個資法或隱私法等規範，這同時其實也是確保各個機器人製造公司在其司法管轄區內承擔一定程度的責任，讓其機器人維持良善的立意以及法律責任，避免出現過多的訴訟或保險理賠問題。

• 機器人應該是立意良善的產品。

雖然我們能夠依靠法律與監管去管制機器人，但所有人類應該要有一個共識，那就是機器人是一種產品，旨在完成人們交付的任務。因此，機器人應該要安全可靠，並根據固定的方式操作，在合理合法的範圍下完成其工作。

• 機器人應該要說實話。

這一點是機器人獨特的能力，Andra Keay認為機器人是人類情感投射和代理能力的群體，而人們很容易被人工智慧代理人「數位引導」或操縱。例如，當機器人或虛擬角色聲稱是你的朋友，其可能會像真正的人一樣巧妙地使用人聲控制，因此機器人不可以說謊，才不會誤導人類或者被用於錯誤之上。

• 機器人應該能夠被其他裝置識別。

Andra Keay指出，這一項原則代表的是機器人負責任、透明和真實的原則，人類有權知道與之互動的機器人所有者或運營商是誰，才能夠更加透明和確定其所有權。

資料來源：Good Men Project

瀏覽 1,394 次