小撇步大作用 AI潮流中防止敏感資料外洩
編譯／Cynthia
AI技術快速發展讓大型語言模型（LLMs）成為焦點，但也帶來機密外洩的風險。根據最新的OWASP報告「OWASP 大型語言模型前 10 名」（OWASP Top 10 For Large Language Models），強調保護機密免受AI事故的影響，應特別注意如何有效守護私密資訊、面對機密外洩的挑戰。
GitHub數位風暴與AI技術漏洞
數位安全公司GitGuardian在GitHub的公開提交中，發現了超過1000萬個機密，不得不思考「AI的方便是否伴隨著潛在的安全疑慮？」Copilot AI編碼工具的「prompt injection」技術更曾因此外洩超過2700個機密，突顯AI事故的可能性。
第一項防範步驟是定期更換機密（如密鑰、密碼等），並善用GitGuardian的「Has My Secret Leaked」工具，主動確保即時發現機密外洩。
數據清理與訓練準則
OWASP的「敏感資訊揭露」提醒我們，語言模型在回應中可能意外洩露機密數據。為了確保語言模型不知道敏感數據，第二項建議是進行數據清理。在訓練LLM之前，使用開源工具或付費服務進行數據掃描，排除可能的敏感資訊。
這不僅是防範意外洩漏的手段，同時是在數據訓練過程中保護機密的有效途徑，確保機密資訊不會因為語言模型的回應而外洩。
定期更新與權限控制
第三項建議是定期更新並限制權限，透過堅守最小權限原則，能有效防範「不安全的輸出處理」和「過度權限行為」的風險，減低LLMs被滲透的可能性。在AI時代，應謹慎運用LLMs，施行合適的安全措施，確保其最大效益。
雖然大型語言模型為數位時代帶來無限可能，但其安全性仍需特別關注，謹守使用LLMs的慎重原則，同時實施保護措施，確保機密資訊不會因為AI事故而不經意外洩。
資料來源：The Hacker News
瀏覽 246 次
