Hugging Face恐有API漏洞　攻擊者可存取微軟、Meta模型

記者／竹二

近日有資安業者Lasso Security的研究人員發現，AI模型資源平台Hugging Face存在著API漏洞，會洩露包含微軟、Meta、Google等公司的API驗證資訊，讓有心人得以控制Meta Llama 2等熱門模型的程式碼儲存庫，嚴重的話可能讓攻擊者污染訓練資料集或竊取、改造成惡意的AI模型。

GitHub、Hugging Face越來越受歡迎

隨著大型語言模型（LLM）普及，GitHub和Hugging Face等平台也成為許多開發人員愛用的資源平台。而Hugging Face是一項重要功能是開源碼函式庫Transformers，代管了50萬個AI模型及25萬項資料集，像是Meta的Llama、Bloom、Pythia等訓練模型。

更多新聞：Meta發表新翻譯AI模型套件　可更精準即時、高效翻譯

據了解，Hugging Face所提供的API，可供外部開發人員及企業將Python函式庫整合到模型，或是讀取、新增、修改或刪除儲存庫或檔案。而GitHub的API也有類似的功能，若是取得兩方的API驗證令牌，可能會導致企業資料外洩、惡意模型散布等不良後果。

近日資安廠商Lasso Security在一項研究中，發現GitHub與Hugging Face平台都可能讓不肖人士從其儲存庫取得各模型供應商的API驗證令牌，得以存取模型或是其他程式碼。該研究小組一共從兩平台上找到1681個有效的令牌，取得了723家企業組織的帳號，包含Meta、微軟、Google等科技大廠，其中655個令牌具有寫入權限，77個還能寫入多個組織系統。

研究人員提出警告指出，只要控制這些程式碼儲存庫，就可以發動多種攻擊，例如最基礎的竊取模型和資料集，或是污染資料集，甚至最嚴重的是供應鏈攻擊，改造現有模型使成為惡意模型，危害大量依賴這些基礎模型的應用程式，因此呼籲所有開發人員避免將令牌資訊寫死在API，以免洩露資訊。

瀏覽 2,657 次