人工智慧安全報告｜專家論點【張瑞雄】

作者：張瑞雄 台北商業大學前校長/叡揚資訊顧問

隨著人工智慧（AI）技術的快速發展，全球社會正在進入一個前所未有的變革時代。最近由全世界30幾個國所推薦的專家組成的委員會發表了一份《國際人工智慧安全報告 2025》。此報告指出，通用人工智慧（General-Purpose AI）的能力已大幅提升，不僅能夠生成高品質文本，還能撰寫程式、分析數據，甚至自主決策。儘管這些技術為社會帶來了顯著的效益，但它們也帶來了一系列複雜的風險，包括隱私侵犯、假資訊傳播、網路攻擊，以及潛在的經濟與社會不穩定。因此全球政策制定者、企業與學界必須加快腳步，建立完善的風險管理機制，以確保AI技術的安全發展。

過去五年內，AI技術的進步速度超過了大多數專家的預期。現今最先進的AI模型已能通過科學推理測試、撰寫高效能程式，甚至進行複雜的決策模擬。許多企業已投入開發通用AI代理（AI Agents），這些系統能夠自主計劃並執行任務，極大地提升了企業營運效率。但這種能力的增強也意味著AI的應用範圍將更加廣泛，甚至涉及高風險領域，如金融交易、醫療診斷與軍事決策等。

AI的普及也對勞動市場產生了深遠影響。部分職業正在被自動化技術取代，而新興的工作機會尚未完全填補這些空缺。AI的快速發展可能會加劇全球勞動市場的不平衡，特別是對於低技術的勞動者而言，重新適應市場需求的難度將進一步提高。此外AI的應用也加劇了市場壟斷風險，少數大型科技企業控制著AI的核心技術與基礎設施，使得其他企業與國家難以在這場技術競賽中競爭。

雖然AI技術帶來了許多便利，但其潛在風險不容忽視。《國際人工智慧安全報告 2025》強調，當前AI風險管理技術仍處於初步階段，且存在多重挑戰，包括技術透明度不足，許多AI系統的內部運作機制仍然是「黑箱」，即使是開發者本身也難以解釋其決策過程。這使得風險評估與調控變得困難。

再來就是資訊不對稱，企業往往掌握大量關於AI模型運作與資料訓練的關鍵資訊，而政府與學術界的了解有限，導致監管困難。許多AI公司因商業與安全考量，選擇不公開AI系統的細節，進一步加劇了資訊落差。

另外還有監管壓力與國際競爭，許多國家在AI發展上面臨強大的競爭壓力，導致企業與政府可能優先考慮技術競爭力，而非風險管理。最後是AI風險難以預測與量化，AI技術發展迅速，許多風險尚未完全顯現。即使存在初步風險跡象，許多決策者仍需在證據有限的情況下做出政策選擇。

面對這些挑戰，全球社會應採取更加積極的風險管理策略，以確保AI技術能夠在可控範圍內發展。報告提出了幾項關鍵政策建議，包括加強國際合作與標準制定、促進技術透明度與資訊共享、發展早期預警與監管機制、提升公眾AI素養和促進負責任的AI創新等等。國家應負起監管的責任，而企業則應承擔社會責任，確保AI技術的發展符合人類倫理的標準。

《國際人工智慧安全報告 2025》最後強調，AI的未來發展並非不可逆轉的宿命，而是取決於人類的選擇。政府、企業與公民社會應共同努力，確保AI的發展方向符合社會利益，而非淪為技術競賽的犧牲品。儘管AI的發展仍充滿不確定性，但只要我們能夠在創新與風險管理之間取得平衡，AI將能夠成為推動社會進步的強大力量，而非威脅全球安全的隱憂。

瀏覽 77 次