美國正在起草新法律以防止人工智慧深度偽造｜專家論點【Howie Su】

作者：Howie Su（產業分析師）

生成式偽造AI正在入侵民主世界

湯姆克魯斯、歐巴馬、蘇納克和泰勒絲有什麼共同點？答案是它們都是網路上發布的深度偽造影片的主題，Deepfakes 是使用人工智慧生成的內容，它們可以用來模仿真人，而且栩栩如生，只有電腦才能偵測出它們不是真人。人工智慧工具的激增引發人們對利用深度造假來破壞聲譽、破壞民主選舉以及損害對經過驗證的真實線上資訊來源的信任的嚴重擔憂，世界經濟論壇的《2024 年全球風險報告》將錯誤訊息和假訊息列為未來兩年​​世界面臨的頭號威脅，2024 年 2 月，網路上出現模仿美國總統喬·拜登聲音的深度偽造影音，該音頻片段被用於針對美國新罕布什爾州民主黨選民的自動電話通話，在偽造的訊息中，可以聽到人工智慧產生拜登聲音，敦促人們不要在該州初選中投票。

由於定於 2024 年 11 月舉行美國大選，拜登看起來鄭宇川普爭奪總統寶座，為防止進一步深度偽造，美國當局正在起草新的法律，禁止生產和傳播冒充個人的深度偽造內容。

擬議的法律由美國聯邦貿易委員會（FTC）提出。美國聯邦貿易委員會警告說，先進技術正在推動用於欺騙毫無戒心的公眾的深度偽造品大幅增加，當局認為，詐欺者正在使用人工智慧工具以令人毛骨悚然的精確度和更廣泛的範圍冒充個人。隨著語音和其他人工智慧型態的詐騙不斷增加，保護民眾免受冒充者詐欺比以往任何時候都更加重要。，雖然這些擬議的法律旨在阻止詐騙者，但它們也適用於冒充政府和商業實體，因此如果簽署成為法律，可以提供保護選舉過程的法律保障。

深度假貨和分裂的社會

2024 年 1 月在達沃斯舉行的世界經濟論壇年會的關鍵主題之一是重建信任，深度造假對公眾信任的潛在影響是深遠的。當它們被用來歪曲政治家、公民領袖和行業領袖時，它們可能會削弱人們對政府、媒體、司法系統和私人機構的信心，隨著大眾對數位內容的真實性越來越懷疑，這種懷疑可能會導致人們普遍脫離公民生活，並減少知情的公共論述。包括微軟在內的大型科技組織已經開發了工具包來確保家庭的線上安全。其中包括透過批判性思考和質疑他們所看到的內容是否真實來幫助人們發現錯誤訊息和虛假訊息的指導，隨著世界深入進入人工智慧時代，控制人工智慧濫用的法律措施對於保護資訊和機構的信任至關重要。作為線上用戶，我們可能都必須更頻繁地挑戰自己：這是真的嗎？

事實上，不只美國，全球今年有七十幾個國家進入選舉，國內相關的法規與打假的措施需要不斷提出，否則將可能落入大量的偽造內容之中。

瀏覽 338 次