OpenAI 解僱Altman落幕　對AI進步和安全有何影響？

編譯／莊閔棻

近一周來，人工智慧（AI）新創公司OpenAI經歷瘋狂的變化。自該公司無預警解雇執行長Sam Altman之後，事情不斷出現新的轉折。雖然現在Altman也宣布將回到OpenAI，讓事情告一段落，但這場災難也讓人們開始關注商業競爭如何影響AI系統的發展，以及引起有關AI將如何以合乎道德和安全的方式部署的爭論。很多人就猜測，Altman此次解僱可能源於OpenAI 內部的分裂。在OpenAI裡，董事和Altman對AI發展到底應該專注於商業增長還是安全的快速發展意見不一。

改變文化

OpenAI 的首席科學家Ilya Sutskever表示，隨著 Altman 的回歸、董事會重新洗牌，OpenAI 似乎將進一步擺脫非營利起源，重組為典型的以利潤為導向的矽谷科技公司。目前不知道這是否會改變OpenAI的初衷。一直以來，OpenAI 都是一家非營利組織，只致力於AI的發展。現在，Sutskever 和華盛頓特區喬治城大學安全與新興技術中心人工智慧治理和安全研究員 Helen Toner 不再擔任董事會成員。 新董事會成員則包括電子商務平台 Shopify 的董事、軟體公司 Salesforce的前執行長Bret Taylor。

更多新聞：Sam Altman、OpenAI 的AI爭鬥大戲　你應該知道的10大劇情發展

競爭日趨白熱化

OpenAI 並不是唯一一家追求大型語言模型的公司，ChatGPT 的發布也迫使其他公司加快腳步。Google就於 2023 年 3 月推出聊天機器人 Bard，同月發布基於 GPT-4 的 ChatGPT 更新版本。 West擔心，產品在人們完全了解行為、用途和濫用之前就出現，可能「對社會有害」。

對話式AI的競爭格局正在升溫。 Google暗示未來會有更多AI產品。 亞馬遜也擁有自己的AI產品 Titan。由前 OpenAI 員工於 2021 年創立的 Anthropic也於 11 月 21 日發布聊天機器人 Claude 2.1。West指出，這些新創企業嚴重依賴Google、微軟和亞馬遜這三家公司提供的龐大且昂貴的運算資源，導致這些控制巨頭之間正在展開一場爭奪主導地位的競賽。

安全問題

從長遠來看，很多人都擔心AI系統本身會成為一個壞角色，發展出能毀滅世界的能力。深度學習的先驅、加拿大多倫多大學電腦科學家Geoffrey Hinton就表示，即使 AGI 的設計符合 OpenAI 的「超級對齊」使命，可以促進人類的最大利益，這種情況也可能發生。 如，它可能會決定，人類遭受的苦難是如此巨大，讓人類寧可死去，也不要面臨更多的苦難。 這些說法聽起來像科幻小說，但 Hinton 認為，AI所帶來的生存威脅是非常真實的。

OpenAI 成立的具體目標就是開發通用人工智慧 （AGI）。AGI是一種深度學習系統，經過訓練不僅可以擅長某一特定事物，而且可以像人一樣聰明。目前尚不清楚這種AI是否可能。但West強調，重要的是要趁早關注AI已經存在的威脅，並確保現有法律適用於開發AI的科技公司。 她表示，OpenAI 的事件凸顯了少數擁有資金和運算資源來支持AI的公司如何擁有巨大的權力，且這需要反壟斷監管機構進行更多審查。

參考資料：nature

※更多ChatGPT相關訊息，請參考【生成式AI創新學院】。

瀏覽 892 次