歐盟建立人工智慧風險分級制 分別實施不同程度監管
編譯/施毓萱
雖然人工智慧為產業和客戶帶來了無數好處,但也促使監管機構質疑這種創新技術帶來的潛在風險,對歐盟執委會(EC)來說,為何和如何發展人工智慧所做的決策是首要考慮因素之一,自2021年以來EC一直在尋求制定新法規。
![](https://www.technice.com.tw/wp-content/uploads/2024/02/139400746_fb-link_normal_none-1024x535.jpg)
歐盟監管新出路
歐盟《人工智慧法》(AI Act)的核心是尋求實施一種橫向監管結構,能夠確保任何在歐盟市場的系統都是完全可信、安全且合法的,既適用於在歐盟境內營運的供應商,也適用於總部設在其他國家的第三方供應商。
因此EC採用了風險考量優先的方式,並將利用最新法規、以及按照經濟合作暨發展組織(OECD)的定義,確定一個系統對終端用戶帶來的風險分級法,包括不可接受的、 高風險、有限風險或低風險。
EC整合分割出不同監管等級
這些系統最終獲得的得分將決定受監管的等級,那些會帶來不可接受風險的系統將被EC禁止使用,黑名單包括遠端使用生物辨識技術的識別系統、透過認知操縱鼓勵危險行為以及可用於社會評級(social scoring)的系統。
根據法規草案,高風險系統將被允許使用,但需要遵守一系列新規則,這些規則涉及風險管理、資料訓練、透明度、網路安全和測試。
此外,對終端用戶構成有限風險的系統,其中包括聊天機器人和生物識別分類系統,現在必須在一套透明度義務下運行,而人工智慧生成的音訊、圖像和影片內容也將被標註為此類內容,讓用戶可以選擇是否繼續與該技術互動。
總之,EC透過監管人工智慧的方法建立網路,標誌其確實理解該技術廣泛而多樣的應用,這將廣泛影響金融和銀行業,因為銀行和金融服務公司必須確實遵守相關規定,走上人工智慧發展的新道路。
資料來源:FINTECH FUTURES
瀏覽 248 次