白宮認為人工智慧需要更多監管以維持穩定｜專家論點【Howie Su】

作者：Howie Su（產業分析師）

白宮與兩院都呼籲祭出人工智慧規範

拜登在近期與總統科學技術顧問委員會的一次會議上指出「人工智慧可以幫助處理一些非常困難的挑戰，如流行病與氣候變遷，但我們也必須解決我們社會面臨的潛在風險，例如經濟與國家安全。」在這之前，特斯拉的創辦人馬斯克也呼籲需要暫停人工智慧研究六個月，避免人工智慧的發展過度失控，釀成無法控制的災難。在這之前，美國政府就已經在2022年制定《人工智慧法案》，確保從一開始就將重要的保護措施嵌入到 AI 系統中，並且認為科技業者在推出人工智慧服務前就必須確保其安全性。同時，兩黨隱私法案（bipartisan privacy legislation）也列出三條規定，第一為對科技公司的個人數據搜集辦法嚴格規範；二、禁止針對兒童投放特定廣告；第三，要求公司在生產產品時將健康和安全放在首位。這些看起來再基礎不過，但目前看起來是，科技業受到箝制正在加重。

來自美國國家標準與技術研究院的聲明

基於資本主義與開放市場文化，美國擁有許多頂尖的AI業者，如 OpenAI 與微軟，以及大量新創與科技業，但在法規上，則沒有如歐盟一般具備制定強大約束力法規的做法。在 2020 年，美國國國會要求美國國家標準與技術研究院(NIST)擬定人工智慧框架，以讓公司在開發人工智慧系統時遵守，這個後來發佈的「人工智慧風險管理框架」（AI Risk Management Framework，AI RMF）認為人工智慧系統是一種社會技術，例如聊天機器人等服務都會受到社會動態和人類情緒反應所影響，企業應考慮制度文化的變革，更全面地思考、評估和監控人工智慧風險等四大原則來設計人工智慧系統，並透過組織人工智慧風險管理活動的三個元素：「功能」、「類別」、「子類別」來評估系統的安全性。雖然立意良善，但由於缺乏強制性，雖然如Google、微軟等科技業者都贊成，但實際上有沒有做、做得如何都是未知數，僅知道大型企業也有自己的AI治理框架。

世界經濟論壇也提出相關規範，但不具強制性

這些框架與稜稜角角的細節並非只有白宮在做，世界經濟論壇也大力呼籲AI治理的重要性，其實連韓國、日本、新加坡等國家也都在執行，但沒有一國像歐盟做得這麼到位，即便如此，如世界經濟論壇提出的建議卻也值得參考，例如企業必須建立良好的 「AI 衛生習慣」。這包含在 AI 開發、部署和使用的各個階段進行的例行測試。測試將取決於系統的類型及其風險級別。同樣，基於人工智慧的靈活性和適應性，測試方法也必須與之相適應，以確保測試結果有效性。

同時，為了提高AI的責任歸屬與和透明度，組織應記錄調查結果，例如 AI 系統中使用的培訓數據的來源和差距，這種做法類似於遵守「營養標籤」和「配飲食成分表」，紀錄所有資料的來元、使用方式、產出等，讓企業更能掌握或推論模型的運作方式，避免大規模的歧視或假消息出現，這就進一步帶動AI審計的商機，一如財報一樣，未來AI可能也需要透過第三方單位來查核，來確保企業在建立AI系統時符合監管機構的規定。

瀏覽 954 次