更貼近一般人 OpenAI推新一代語言模型ChatGPT
為了使AI聊天機器人能再更貼近一般人,OpenAI推出新一代語言模型ChatGPT,不僅能回答問題、承認錯誤、質疑不正確的提問,甚至可以拒絕不當要求,目前正在研究預覽的階段,提供給使用者免費試用,使用者輸入的內容會成為AI的訓練素材,OpenAI持續收集使用者回饋並改進系統。
![](https://www.technice.com.tw/wp-content/uploads/2022/12/螢幕擷取畫面-2022-12-05-110841-1024x535.png)
ChatGPT是根據GPT-3.5模型微調而成,以語言服務模型InstructGPT為基礎,透過人類回饋增強學習訓練該模型,可以對話回應使用者問題,能回答許多瑣事,經實測詢問ChatGPT機器人若沒有錢該怎麼辦,該系統幾秒內就能回答,提供發問者實質建議。
根據OpenAI的測試後還發現,ChatGPT甚至能夠debug程式碼,開發人員貼一段存在bug的程式碼,詢問除錯方法,ChatGPT會透過對話詢問開發者更多資訊,提供具體有效的解法。研究人員指出,ChatGPT對於用詞非常敏感,當使用者發問未獲得正確答案時,可嘗試調整措辭,只要稍微改寫句型,ChatGPT就能正確回答。
不過,ChatGPT有時會給出看似合理卻不正確,或是荒謬的答案。研究人員分析原因有3種,除了在增強訓練時缺乏事實來源之外,監督訓練時被誤導,以及訓練模型過度謹慎反而拒絕回答可能正確回答的問題。
有時ChatGPT也會回應太過冗長或不停重複部分詞語,研究人員說明,這是因為訓練資料偏差,訓練者通常喜歡全面回答,加上常見模型過度最佳化,才會導致重複語句。此外,ChatGPT有時也會出現偏見或提出假資訊,研究人員表示,他們會透過Moderation API警告或阻擋特定不安全內容,不過還是有部分遺漏,因此會持續收集使用者回饋並改進系統。(記者/竹二)
瀏覽 586 次