抵抗DeepFake 新創公司能即時識別AI換臉影片

編譯／高晟鈞

DeepFake近幾年無疑成為了網路世界中的「Covid-19」，疫情蔓延至全世界，不論是台灣的網紅「小玉」的換臉影片事件，抑或是在韓國學校的「N號房2.0」事件，都對數以萬計的普通人造成了惡劣影響。如今，一家名為Reality Defender的新創公司表示，能夠辨別由人工智能Deepfake所生成的深度偽造影像，幫助受害者結束充滿惡意的生活。

更多新聞: N號房2.0 AI換臉技術駭全韓

DeepFake疫情肆虐

DeepFake是一種AI換臉技術，可以透過人工智慧擷取真實人物的外觀。儘管一開始的出處可能是好的，但近年來被許多不肖人士利用，用於各種詐騙、勒索、或是散布網紅明星影片以獲取錢財。近日就連美國參議院外交關係委員會主席，都誤與冒充烏克蘭官員的人進行視訊通話；2024年初，一家國際工程公司的員工也慘遭詐騙，損失了數百萬美元，而針對一般人的愛情詐騙也多採用了類似的技術。

即時識別AI換臉

上週，Reality Defender的產品經理在一次視訊通話中，使用了一些Github代碼、外掛軟件和照片合成了伊隆瑪斯克（Elon Musk）的簡單偽造圖像，並假冒成對方與員工進行通話。通話中的靜態幀數被傳輸到了該公司所開發的自定義模型進行分析後，員工螢幕上跳出通知，提醒用戶現在很有可能正在與使用人工智能生成的Deepfake，而非真人進行對話。

Reality Defender的即時偵測模組是從Zoom插件開始，可以主動偵測視訊通話中的對象是真實或使用人工智慧假冒的騙子，該公司目前正在對該工具進行基準測試，確定真假用戶辨別的準確性。可惜的是，新軟體功能僅在測試版中提供給部分客戶進行使用。

事實上，這並非第一個針對AI換臉技術的軟件，例如英特爾（Intel）便在2022年推出了檢測深度偽造的FakeCatcher工具，可以分析用戶的臉部血流變化，以確定對象的真實性，但卻並未進行公開。目前，新創公司面臨最大的困境在於──訓練模型的數據量，這需要包括政府、新創與老牌公司的共同合作，以對抗惡意滿滿的DeepFake疫情。

在未來，如果人工智慧檢測不斷改進並展現可靠的準確性，那麼視訊的即時身分認證將勢在必行，就像是防毒軟體一樣平常，以避免層出不窮的詐騙事件。而AI識別也不再是高官權貴的獨有專利。

資料來源:Arstechnica

※探索職場，透視薪資行情，請參考【科技類-職缺百科】幫助你找到最適合的舞台！

瀏覽 5,119 次