微軟公布新抓漏計畫 針對Bing AI功能祭出漏洞獎勵
記者／竹二
生成式AI發展以來，雖然越來越多缺點被改善，但難免還是有些許漏洞，微軟近日針對旗下AI服務公布了新的抓漏獎勵計畫，這是鎖定AI臭蟲的Microsoft AI Bug Bounty Program，對外徵求能夠從Bing Chat、Bing Image Creator等基於Bing的服務中，找出符合他們所定義的重要或重大等級漏洞的研究發現，獎金從2000美元到15萬美元不等。
微軟抓漏計畫圍繞在Bing AI體驗
目前微軟現有的抓漏範圍，都圍繞在所有整合AI的Bing體驗，包含用各種瀏覽器使用Bing.com時所體驗的Bing Chat、Bing Chat for Enterprise及Bing Image Creator，或是在Windows版的Microsoft Edge使用整合AI的Bing功能，以及iOS及Android系統上Microsoft Start Application所整合的Bing，或是iOS及Android系統上上Skype Mobile Application整合的Bing。
微軟公佈AI抓漏計畫申請資格
據了解，與AI系統相關的安全漏洞包含推論操縱、模型操縱，以及推論資訊揭露等，像是使用者可以注入指令，導致模型偏離原本預期的行為，或是可以干擾有效輸入而讓模型產生錯誤輸出，甚至可以竄改模型架構、訓練程式碼、訓練資料及超參數來毒害模型，還可以自訓練資料集中重建個人資料紀綠等。不過，根據微軟的說法，只有被他們的AI漏洞分類系統（Microsoft Vulnerability Severity Classification for AI Systems）視為重要，或是重大等級的安全漏洞才符合申請資格。
微軟抓漏計畫過去最高發出20萬獎金
根據微軟日前所公布的年度抓漏計畫成果，自去年7月1日起到今年6月底之間，微軟總計祭出了17個抓漏計畫，共有來自全球超過45個國家的345個安全研究人員，一共提交了1180個符合資格的漏洞報告，獲得了1380萬美元的獎金，其中最高的一筆抓漏獎金是20萬美元。
瀏覽 1,629 次
