保護內容來源 Google 發布 AI 生成文字浮水印技術
編譯／夏洛特
隨著生成式人工智慧（AI）技術的普及，Google正積極推動其全新AI文字浮水印技術「SynthIDText」，此技術目的要讓開發者能夠識別AI生成的文字內容，並現已正式開放給全球開發者使用。
SynthID Text開放下載與使用
據報導，Google宣布，「SynthID Text」已經在Hugging Face AI平台及更新版的Google負責任生成式AI工具包中上架，任何開發者或企業均可免費下載使用。Google在X平台上發布聲明表示，該工具將有助於使用者識別AI生成的內容。
浮水印技術如何運作
SynthID Text的工作原理是基於生成式AI模型的運作機制。當使用者輸入問題或提示時，AI模型會逐一預測最有可能出現的「字元」（token）。這些字元是生成模型用來處理資訊的基本單位，Google表示，SynthID Text透過調整字元生成的機率分布插入額外資訊，進而實現浮水印功能。
浮水印辨識結合生成機率
Google解釋，這些調整過的字元生成模式形成了浮水印，該浮水印可以與沒有浮水印的文字模式進行比對，幫助工具識別出AI生成的文字，這項技術的應用範圍廣泛，即使文字經過修改或重述，也能被有效檢測。
短文與翻譯文本檢測效果不佳
儘管SynthID Text能在不影響生成內容品質、準確度或速度的前提下運行，但Google也坦承該技術存在一些限制，如基於過短的文字、翻譯自其他語言的內容或回應事實性問題的文本在生成時，字元分布的調整空間有限，浮水印辨識的效果較差，難以在不影響準確性的情況下加浮水印。
AI文字浮水印技術成趨勢
隨著生成式AI技術的廣泛應用，類似SynthID Text的浮水印技術可能在未來成為一項重要工具，幫助企業和開發者更好地管理與辨識AI生成內容，並應對未來可能出現的法規挑戰。
同時，一些國家和地區也已經開始立法強制AI生成內容加上浮水印，中國政府已經推出相關規定，並且美國加州也正在考慮實施類似的法規，隨著AI生成內容比例的增長，法規對此類技術的需求也日益緊迫。
參考資料：TechCrunch
※探索職場，透視薪資行情，請參考【科技類-職缺百科】幫助你找到最適合的舞台！
瀏覽 305 次
