進擊的GenAI   企業增加投資資安因應  保護客戶信任與數據安全

編譯／Cynthia

在科技快速發展的時代，人工智慧（AI）改變我們的生活，但也帶來新挑戰，特別是個資保護問題。最新研究指出，企業在使用生成式AI（GenAI）時面臨著日益嚴峻的隱私風險，這挑戰組織信任的基石。

GenAI引起的個資保護擔憂

思科（Cisco）法務長Dev Stahlkopf指出，「組織視GenAI為一種根本不同的技術，面臨新的挑戰。」超過90％的受訪者相信，AI需要新技術來管理數據和風險。在眾多擔憂中，企業最擔心的是對組織法律和知識產權的威脅（69％），以及資訊洩漏給公眾或競爭對手的風險（68％）。

更多新聞：保護憑證安全　下一代MFA如何應對GenAI釣魚風潮

為了控制風險，63％組織限制可以輸入的資料，61％對使用GenAI工具的員工進行限制，而有27％的組織目前已經禁止使用GenAI應用。然而，仍有不少人輸入可能引發問題的訊息，包括員工資料（45％）或公司的非公開資訊（48％）。

AI透明度與進展

消費者對於AI使用涉及其資料的擔憂與日俱增，但令人擔心的是，91％組織認為他們需要更多的努力，來使顧客相信他們的資料僅用於預定和合法目的。這一情況與去年相似，顯示在這方面進展甚微。

組織在建立消費者信任方面存在不同的優先事項，消費者最關心的是獲得有關其資料使用方式的精確訊息，以及不將其資料出售給行銷目的。而企業則更關注遵守個資保護法規（25％）和避免數據外洩（23％）。這表明在AI應用中，更多關注透明度將是有益的，特別是在難以理解演算法如何做出決策的情況下。

外部認證與法律的影響

Cisco副總裁兼隱私長Harvey Jang解釋，「94％的受訪者表示，如果未充分保護數據，他們的顧客將不會購買。」他們迫切需要有力的證據來證明組織值得信任，因為98％的人認為外部隱私認證在他們的購買決策中是一個重要因素。這些數據是Cisco多年隱私研究中最引人注目的，再次證實在AI時代，投資於個資保護有助於組織更好地道德且負責任地運用AI。

個資保護作為有價值的投資

過去五年，企業對個資保護投資翻了一倍以上，取得更好的效果。今年，95％受訪者表示個資保護的好處超過其成本，平均組織回報投資的1.6倍。80％組織從個資保護中獲得重要的「忠誠度和信任」，而在成熟的組織中，這比例更高達92％。

不同規模的組織個資保護投資趨勢

在2023年，擁有10,000名以上員工的大型組織個資保護支出比去年增加7％至8％。然而，在中小型企業中，尤其是擁有50–249名員工的企業，平均減少了25%的個資保護投資。這顯示出不同規模的企業在個資保護投資上的差異，但無論規模大小，個資保護依然被視為有價值的投資。

企業應對GenAI個資保護風險，強化透明度與信任

總體而言，企業在面對GenAI帶來的隱私風險時，正積極制定措施以保護敏感資料。透過限制資料輸入、使用者權限管理以及暫時禁用GenAI應用等方式，企業致力於維護客戶信任。同時，投資於個資保護被視為有價值的策略，並透過外部隱私認證來向顧客展現可信度。在AI時代，透明度和個資保護將是企業取得成功的關鍵因素，同時也是構建長期客戶忠誠度的重要基石。

資料來源：Help Net Security

瀏覽 323 次