美大選資訊可靠嗎 AI公司也怕AI使壞
編譯／黃竣凱
美國大選結果即將揭曉，人工智慧（AI）技術扮演的角色逐漸浮出水面，生成式AI的角色變得前所未有的重要。隨著ChatGPT等AI產品的普及，OpenAI和其他AI公司必須考慮如何提供準確的選舉相關資訊，同時避免虛假訊息擴散的風險。對這些公司而言，提供選民所需的真實、可靠資訊已經成為技術和道德的雙重考驗。
OpenAI引導查閱可信來源
據報導，OpenAI宣布從11月5日起，當用戶詢問ChatGPT選舉結果時，將建議他們參考美聯社、路透社等權威新聞機構或當地政府網站，以獲得最新的選舉資訊。OpenAI強調，過去一年內已設置多重防護措施，避免AI生成不實內容，並會根據選舉過程中的實際情況持續調整。
Perplexity專設選舉資訊中心
與此同時，AI新創公司Perplexity則為提供選民即時資訊，推出「選舉資訊中心」，透過AI系統解答選舉相關問題，並提供投票地點、投票條件及候選人分析等資訊。Perplexity表示，所有內容都基於非黨派的權威來源，並避免使用訓練數據中的既有知識，以減少資訊誤導的可能。
AI工具的優勢與潛在風險並存
AI文本分析平台Copyleaks的聯合創辦人Alon Yamin表示，AI的即時更新能力，能幫助選民了解選舉動態並發現選民趨勢。但他也指出，AI生成內容也可能引發錯誤資訊擴散，尤其在模型的數據訓練偏見問題，無法完全解決的情況下，這一風險更顯得重要。
Google等大公司謹慎應對選舉資訊需求
與積極參與的AI新創公司不同，Google採取更保守的立場。Google宣布，其AI產品Gemini將不處理選舉相關的查詢，以免引發誤導，而其主要搜尋引擎也僅展示傳統的「熱門故事」內容，而未採用AI概述，顯示出其在選舉資訊處理上的謹慎態度。
專家呼籲加強立法管控
對於AI在選舉中的應用，美國負責任創新會（Americans for Responsible Innovation）聯合創辦人Brad Carson則認為，僅靠企業的自我約束並不夠，應由政府推動立法，要求AI產品在生成內容時明確標註來源，以遏制AI造成的假訊息擴散問題。他指出，AI公司主動限制選舉資訊雖值得肯定，但仍需政策支持以確保透明。
參考資料：Insider
※探索職場，透視薪資行情，請參考【科技類-職缺百科】幫助你找到最適合的舞台！
瀏覽 127 次
