超強合作!Google微軟OpenAI和輝達成立AI安全聯盟
編譯/黃竣凱
為解決人工智慧(AI)安全問題,在阿斯彭安全論壇(Aspen Security Forum)上,科技巨頭Google、微軟、輝達和OpenAI等公司聯合宣布,成立AI安全聯盟「CoSAI」,隨著AI技術的快速發展,CoSAI的目標是建立強有力的安全框架和標準,確保AI開發和部署的安全。
![Google、微軟、輝達和OpenAI等公司聯合宣布,成立AI安全聯盟「CoSAI」,確保AI開發和部署的安全。](https://www.technice.com.tw/wp-content/uploads/2024/07/CoSAI-1024x535.jpg)
Google 引領成立
據報導,CoSAI由Google引領成立,匯聚了多家領先的科技公司和組織,其創始成員包括Amazon、Anthropic、思科、Cohere、IBM、英特爾、微軟、輝達、OpenAI、PayPal和Wiz。CoSAI致力於設計安全的AI系統,利用開源方法和標準化框架來促進AI的信任和安全,該公告強調了AI安全框架的重要性,該框架以先前Google 推出的安全AI架構 (SAIF)為基礎。
更多新聞:前OpenAI員工爆料:公司像在「建造鐵達尼號」罔顧安全
三個初步工作領域
CoSAI旨在推進全面的AI安全措施,應對現有和新興的風險,該聯盟將重點關注三個初步工作領域,包括維持AI系統的軟體的供應鏈安全、為不斷變化的網路安全環境做準備,以及AI安全治理,並開發最佳實踐、風險評估框架和緩解策略,增強整個行業的AI安全。
解決AI安全碎片化問題
CoSAI 的成立解決了AI安全碎片化的問題,目前,開發人員面臨不一致且孤立的指導方針,使評估和減輕AI特定風險變得具有挑戰性,而CoSAI的成立則旨在標準化做法並加強安全措施,增強全球利益相關者的信任。
Google的CoSAI管理委員會聯合主席David LaBianca強調了民主化知識和進步的重要性,及為安全的AI整合和部署提供計畫的必要性,而思科的Omar Santos也表達了類似的看法,強調了公司和專家之間合作的重要性,以制定堅實的AI安全標準。
參考資料:Coin Gape
瀏覽 362 次