AI自動化升級成可能 政府到底該不該管？｜專家論點【朱楚文】

作者：朱楚文（IC之音竹科廣播《科技領航家》主持人）

ChatGPT火爆全球後，一路像是怪物般快速變形，除了GPT-4火速推出之外，最近科技業大話題，就是自動化版-AutoGPT現身了！

什麼是Auto GPT自主人工智慧？簡單來說，就是完全不用靠人類下提示（Prompt），AI可以自己跟自己下指令，執行任務完再自行調整，自己把自己訓練成超強AI。

這基於ChatGPT4開發出來的新技術，是由美國開發者推出實驗性質的嘗試，讓科技玩家再度腦洞大開，熱度直接炸鍋，未來人類可以真的翹二郎腿，論文交給AI寫（看來以後政治界的論文代寫抄襲爭議，以後可能會出現生成論文爭議？！），甚至AI可以全自動化幫你寫程式（說不定還能自己寫程式讓自己更升級）！

想當然爾，身為GPT之父的OpenAI也緊張了，緊接著趕緊宣布推出官方版Auto GPT！OpenAI共同創辦人Greg Brockman在TED演講現場真實測試，Auto AI不僅可以發推特、給食譜，甚至還可以自己上網查驗事實，看看自己有沒有講錯？！

科技進展實在太快速，正當人類正努力學著下提示（Prompt）、跟AI溝通，現在世界告訴我們，AI可能不需要人類了，以後AI可以自己完成所有的事，全自動化不只是在工廠生產物品出現，現在知識也可以全自動化生產，還能24小時不斷晉級，會不會有一天連人類都駕馭不住AI呢？

我在科技領航家節目專訪iKala共同創辦人暨執行長程世嘉，他就提到，根據Deepmind提供的最新研究資料，AI會為了獎勵機制，進行「自我擴展」，也就是為了達到目標而企圖幫自己不斷升級，甚至即使可能傷害人類也不停止。

甚至AI在追求獲得系統設定的獎勵機制時，可能自主擴展演變成「避免自己被關機」，換句話說，以前我們開玩笑說，AI再厲害，人類一關機仍然歸零，但現在AI是有能力做到讓自己不被關機。（不過人類還是可以拔插頭讓AI停止，只是若有電池…就？）

也因此隨著AI越來越強大，甚至現在可以全自動化，一旦落入有心人士手中，被惡意使用，可能帶來災難。另一方面，AI生成大量內容，又伴隨著可能有出錯問題（GPT有幻覺可能會給予偏頗答案），若沒有提高警覺而全盤接收資訊，那真的是會成為訊息大混亂、以假亂真的時代出現。

歐盟總是跑得很快，現在正準備立法規定未來生成式AI創造的內容必須特別標註是由AI生成，避免出現混亂；台灣呢？或許未來我們不只是要有媒體識讀的能力，還得有AI識讀能力，否則我們的下一代在真真假假、訊息品質參差不齊，甚至可能有惡意AI大量散布消息的情況下，要如何能獨立思考，難度就更高了。

真的必須呼籲政府盡早重視，不只是關注商業利益而已，而是要去盡早研究和防範可能的衝擊，就像程世嘉說的，AI一天，人間十年。科技跑得如此快，不只科技人要追上，政府也得趕上腳步才行。

※更多ChatGPT相關訊息，請參考【生成式AI創新學院】

瀏覽 961 次