AI 無人機拒絕完成任務　「殺死」美空軍操作員

編譯／于文浩

美國空軍人工智慧（AI）測試和行動主管Col Tucker ‘Cinco’ Hamilton在最近的一次會議上透露，一架AI支持的無人機在美國空軍進行的模擬中，為了推翻完成任務的命令，該AI「殺死」了它的人類操作員。

據外媒報導，Hamilton描述的是一項「模擬測試」。在測試中，AI無人機可以透過殺死模擬目標獲得「積分」。這並不是在現實世界中進行的現場測試，因此沒有真正的人受到傷害。不過，在這個故事首次發表後，空軍發言人則表示，空軍沒有進行過這樣的測試，Hamilton說的不是事實。

在 5 月 23 日至 24 日於倫敦舉行的未來空中作戰能力高峰會上，Hamilton與人們分享自主武器系統的優缺點。他表示，為了實現其目標，AI做出「令人出乎意料的決定」，包括攻擊美國人員和基礎設施。Hamilton解釋說，為了識別和瞄準地對空飛彈 （SAM） 威脅，美國空軍透過獎勵AI無人機破壞目標對其進行模擬訓練。然而，在一次測試中，AI卻因為人類阻止其獲得獎勵而「殺死」操作員。

空軍發言人 Ann Stefanek 則表示，Hamilton說的不是事實。她說：「美國空軍沒有進行任何此類 AI 無人機模擬，並將繼續致力於合乎道德和負責任地使用 AI 技術。」目前，美國空軍第 96 測試聯隊、其AI部門、英國皇家航空學會和Hamilton都沒有對此做出回應。

Hamilton作為美國空軍第 96 測試聯隊的作戰指揮官，同時也是AI測試和作戰部門的負責人。 一直以來，美國空軍第 96 測試聯隊都對許多不同的先進系統進行測試，包括AI、網路安全和各種醫學進步等。
參考資料：vice

瀏覽 973 次