如何分辨深度偽造？多項細節可看出端倪

編譯／Cynthia

深度偽造（Deepfake）技術快速發展，使真實和虛構界線變模糊，對政治家和名人產生影響，最近倫敦市長Sadiq Khan和歌手Taylor Swift遭深度偽造攻擊，即引起社會高度關注，OpenAI的Sora技術更進一步挑戰真偽識別。

AI業界應對挑戰

受到Taylor Swift深度偽造風波啟發，Microsoft全面禁止製作名人影像，OpenAI和Google實施內容審查，但使用者仍巧妙規避，挑戰政策效力。AI業者嘗試透過數位浮水印提升，但要找到解決策略仍面臨艱鉅挑戰。風險管理公司Deloitte的Leena Ammanath指出，隨AI技術進步，操控內容變得更容易，需更多努力防止惡意擴散。

更多新聞：AI發展兩面刃、Deepfake恐武器化　Check Point示警8大網路安全趨勢

美國和歐盟在深度偽造法規方面仍處於初步階段，美國已有14個州提出法案應對選舉風險。儘管法規進展有限，但突顯了監管機構對AI生成內容風險的關切。歐盟致力將非同意分享私密影像視為刑事行為，而英國則計劃將分享深度偽造圖像視為刑事行為，都反映國際上對應對AI生成內容挑戰的共同關切。

深度偽造的檢測技巧

為了預防深度偽造的威脅，使用者應留意以下特徵，有效檢測深度偽造的影像、視訊和音訊：

• 不尋常的手部描繪：觀察手部動作是否與真實環境相符。
• 臉部周圍邊緣粗糙：細看臉部周圍邊緣，粗糙或不自然的外觀可能是深度偽造的線索之一。
• 皮膚紋理不一致：觀察影像中的皮膚紋理，不一致或異常的紋理可能暗示著深度偽造的存在。
• 部分模糊：注意圖像中是否有部分區域出現模糊，這可能是深度偽造工具無法完全模擬真實場景的表現。
• 異常照明或失真： 注意光線和影像中的照明情況，異常的燈光或失真可能是深度偽造的痕跡之一。
• 不自然的眼睛、手和身體律動：觀察影片中人物的眼神和身體律動，不自然的眼神或動作可能是深度偽造的特徵。
• 嘴唇動作是否與聲音同步：注意嘴唇動作是否與聲音同步，不一致的情況可能顯示影片經過修改。
• 不尋常的燈光及陰影：留意影片中的燈光和陰影，不自然的光線情況可能是深度偽造的線索之一。

雖然以上特徵供參考，但深度偽造檢測不容易，使用深度偽造檢測工具，如機器學習算法和神經網路，是更可靠的手段之一。

總體而言，深度偽造趨勢無法避免，AI業者和監管機構找到解決方案，使用者需持續學會辨識深度偽造，特別是在這數位內容時代，信任數位內容的真實性沒有單一方法可依賴，但透過提高警覺性和持續學習，仍有助於防止虛假資訊的傳播。

資料來源：Techopedia

瀏覽 1,277 次