Google將下架Colab上所有deepfake設計

AI技術被運用在不同的層面和不同族群中，在各大瀏覽器中也推出供AI技術員撰寫和操作的平台，像是Google的Colab提供AI研究員、數據科學家或是學生，能夠在瀏覽器上撰寫和執行Python的平台。但是近期Google提出一項禁令，將下架所有使用深偽技術(deepfake)的設計。

深偽技術(deepfake)是運用生成神經網路架構，如：自編碼機(AE)、生成對抗網路(GANs)，竄改或生產的影音內容。這項科技時常被惡意運用在未經過本人同意的性相關內容、詐騙，還有以誤導他人，和影響民主政治程序為目標的影音內容中，這些使用深偽技術的疑慮，可能是Google此次決定禁止相關項目的背後原因。這是個有爭議的決策，因為禁止這樣的項目無法阻止任何人製造他們，而且也可能在未來的關鍵時刻，成為對抗深偽技術的阻礙。

今年三月，有人運用深偽技術，將烏克蘭總統澤倫斯基(Volodymyr Zelenskyy)下令軍隊在與俄羅斯軍隊戰鬥時，放下武器的影片上傳至被駭入的新聞網站，「我只想建議俄羅斯軍隊放下武器並返回家鄉。」澤倫斯基在官方的影片中對於這則假新聞反擊道：「我們正在家鄉保衛烏克蘭。」幸運的是，深偽技術所能做到真實程度還無法讓所有人都相信，在假新聞影片中的澤倫斯基有著比起他的身體來說，如漫畫般巨大、明顯像素化的腦袋，所以這部影片或許並沒有欺騙道任何人，但若是有人相信了，它也會帶來嚴重的後果。另外，在與俄羅斯相關的活動中，有人使用AI生成的人臉作為宣傳網站的假「主編輯」和假「專欄作家」，而相比澤倫斯基的影片，這個深偽技術的成果更容易騙取人們的信任。

無論如何，不是所有深偽技術都是帶有惡意的，他們也被運用在音樂、謎因梗圖上，甚至是幫助警察辦案。（編譯／李昀蓁）

瀏覽 1,374 次