AI何時會對人類構成滅絕等級的威脅

記者／劉閔

隨著人工智慧以及機器學習科技持續發展，有不少科學家們擔心的不再只是AI 將取代人類工作並釀成失業危機，而是害怕其直接帶來毀滅性災難，然而稍早來自德國的一項報告，讓多數人暫時鬆口氣。據研究人員認為，像ChatGPT這樣的大型語言模型，仍然無法獨立學習或獲取新技能，因此認定它們不會對人類的生存構成威脅。

多數AI研究人員家表示擔憂

今年3月，美國國務院委託編寫的一份新報告就指出，先進的AI系統在最壞的情況下可能「對人類構成滅絕等級的威脅」，且該份調查採訪名單多來自AI公司高層、網路安全研究人員、大規模殺傷性武器專家以及政府內部的國家安全官員，透露著世界各地一些頂尖的 AI 研究人員，也同樣的表達這類擔憂，並試圖警告政府，避免災難的時間已經不多了。

更多新聞：Meta啟動Llama 3.1影響力獎金計畫 募集台灣開發者社群

研究顯示AI並不具威脅

不過最近德國最新研究卻認為，這種擔憂是沒有根據的。根據德國達姆施塔特工業大學的研究團隊測試，在完成模型訓練之前的AI，是否具備執行新任務的能力？即所謂的突現力（emergent abilities）。而經由數千次實驗後得知，AI 遵循指示的能力、記憶力和語言能力的結合，只限制於情境學習，而不是真正理解情境，這就意味著人們擔心模型會出現意外、有創新力或潛在危險，可謂是沒有根據的猜測。

因此德國研究團隊表示，雖然AI的確有濫用可能性，例如製造假新聞或是增加欺詐風險，但只因覺得AI對人類有威脅而制定法規，或許還為時過早。此外，研究員也認為隨著AI模型成長可能會產生更複雜語言，並更善於遵循明確詳細的提示，但似乎仍不太可能產生複雜的推理能力。

另外，印度科學家也支持該論點，表示AI本質上仍可控、可預測以及安全。並指出正在接受更大資料庫培訓的AI可繼續部署，不必擔心出現安全問題，該擔心的或許還是背後控制它的人，而不是技術本身。

※探索職場，透視薪資行情，請參考【科技類-職缺百科】幫助你找到最適合的舞台！

瀏覽 4,311 次