微軟2018成立AI紅隊　測試AI弱點

編譯／夏洛特

除發展人工智慧（AI）外，微軟也正在研究關於AI的安全問題。日前，該公司就揭露關於其自 2018 年以來就致力於研究AI弱點的公司內部團隊「紅隊」的資訊。微軟表示，成立五年來，微軟的AI紅隊已經從一個實驗性的團隊，變成一個由機器學習專家、網路安全研究人員、社會工程師組成的完整的跨學科團隊。

據外媒報導，該團隊致力於使用數位安全的傳統表達方式，對微軟內部和整個科技行業傳達其研究結果，讓大家不用有專業的AI知識，就能了解AI的風險。該團隊表示，AI安全與傳統數位防禦之間有重要的概念差異，因此，AI紅隊的工作方式也有些不同。

更多新聞：人工智慧革命過去、現在和未來　非一蹴可幾

微軟的AI紅隊發現，在大型語言模型上，任何青少年或是一個使用瀏覽器的普通用戶都可以發動攻擊。而現在，隨著解決機器學習缺陷和故障的緊迫性變得更加明顯，微軟的AI紅隊也正不斷發展和擴大。

微軟AI紅隊創始人 Ram Shankar Siva Kumar 就表示：「如果你將AI紅隊視為傳統的安全紅隊，並且只考慮安全思維，那可能還不夠。我們現在還必須考慮到AI系統故障的責任問題，如產生令人反感的內容，或不正確的內容。這就是AI紅隊的重點。我們不只要關注安全方面的失敗，還要關注負責任的AI的失敗」。

Shankar Siva Kumar 說，該小組的重點是預測與AI相關的下一步攻擊趨勢。當該團隊在App或軟體系統中發現傳統漏洞時，他們通常會與 Microsoft 內的其他團隊合作修復該漏洞，而不是花時間自己完全開發並提出修復方案。

參考資料：Wired

瀏覽 535 次