微軟公布新抓漏計畫 針對Bing AI功能祭出漏洞獎勵
記者/竹二
生成式AI發展以來,雖然越來越多缺點被改善,但難免還是有些許漏洞,微軟近日針對旗下AI服務公布了新的抓漏獎勵計畫,這是鎖定AI臭蟲的Microsoft AI Bug Bounty Program,對外徵求能夠從Bing Chat、Bing Image Creator等基於Bing的服務中,找出符合他們所定義的重要或重大等級漏洞的研究發現,獎金從2000美元到15萬美元不等。
![](https://www.technice.com.tw/wp-content/uploads/2023/10/4-1-1024x535.jpg)
微軟抓漏計畫圍繞在Bing AI體驗
目前微軟現有的抓漏範圍,都圍繞在所有整合AI的Bing體驗,包含用各種瀏覽器使用Bing.com時所體驗的Bing Chat、Bing Chat for Enterprise及Bing Image Creator,或是在Windows版的Microsoft Edge使用整合AI的Bing功能,以及iOS及Android系統上Microsoft Start Application所整合的Bing,或是iOS及Android系統上上Skype Mobile Application整合的Bing。
微軟公佈AI抓漏計畫申請資格
據了解,與AI系統相關的安全漏洞包含推論操縱、模型操縱,以及推論資訊揭露等,像是使用者可以注入指令,導致模型偏離原本預期的行為,或是可以干擾有效輸入而讓模型產生錯誤輸出,甚至可以竄改模型架構、訓練程式碼、訓練資料及超參數來毒害模型,還可以自訓練資料集中重建個人資料紀綠等。不過,根據微軟的說法,只有被他們的AI漏洞分類系統(Microsoft Vulnerability Severity Classification for AI Systems)視為重要,或是重大等級的安全漏洞才符合申請資格。
微軟抓漏計畫過去最高發出20萬獎金
根據微軟日前所公布的年度抓漏計畫成果,自去年7月1日起到今年6月底之間,微軟總計祭出了17個抓漏計畫,共有來自全球超過45個國家的345個安全研究人員,一共提交了1180個符合資格的漏洞報告,獲得了1380萬美元的獎金,其中最高的一筆抓漏獎金是20萬美元。
瀏覽 1,565 次