OpenAI 前高級主管Zack Kass：AI可能是人類發明的最後一項技術
編譯／莊閔棻
人工智慧（AI）新創公司OpenAI 前高級主管Zack Kass對AI幫助解決全球問題的能力持樂觀態度，並解釋為什麼他認為，世界必須願意承受一些不樂意支出的成本，才能釋放該技術的全部潛力。但他也指出，許多業內人士都承認，這可能是人類發明的最後一項技術。
AI可能是人類發明的最後一項技術
談到對AI的擔憂時，Kass表示，許多業內人士都承認，這可能是人類發明的最後一項技術，從現在開始，AI將以驚人的速度推動著我們，讓我們的生活變得越來越充實，包括帶來快樂的生活，更少的痛苦。不過，他並不同意因為認為AI風險太大，而不願為隨之而來的好處承擔風險的看法。
更多新聞：擁有自己的AI助理！微軟宣布 Copilot訂閱計畫
AI對進步和落後國家的影響
Kass指出，在短期內，我們將看到許多AI對進步國家造成的影響，這些影響確實讓人們感到不舒服，但實際上是有益的，並最終會減少我們的工作量。Kass表示，雖然很多人很害怕，但他對此表示歡迎，因為AI可以讓我們去做其他可以帶給我們目標和希望的事情；對於發展中國家，AI則可以為每個孩子帶來一位個人教師，或是讓每個人都會有一位AI驅動的全科醫生，幫助他們診斷問題，並將問題分類給專家。
對於AI帶來的風險，Kass則表示，有包括人類變笨、身分改變、對齊問題或存在主義，以及不良行為者四個。
讓人類變笨
Kass指出，如果AI解決了我們所有的問題，在一段時間內，我們的大腦很可能會停止進化。但這並非一個長期問題，而是短期影響，就像社群媒體一樣，人類會找到適應辦法。
身份改變
對那些花了一生、幾代人的時間關心特定手工藝或行業的人，他們可能會因為突然之間被AI取代而失去自己的身份和目標，這讓Kass非常擔心。
對齊問題、存在主義
真正重要的則是對齊問題和存在主義。Kass認為，圍繞存在主義的整個想法是非常合理的，但他也認為未來是可以也會訓練一個符合人類興趣的模型的，這將受到最嚴格的監管。Kass表示，政府會希望審查所有發布的模型，他預測，到 2026 年也許更快是 2025 年，這些模型都必須滿足國際協調標準，就像我們很快就為核裁軍和核電制定國際標準一樣。
最後，Kass也強調，我們仍然有必要建立國際聯盟來為AI制定合理的標準，以迫使全世界的參與者共同努力、朝著正確目標邁進。Kass是OpenAI最早的 100 名員工之一，也曾是Go-to-Market 策略的負責人，後來因為一些家庭挑戰，決定辭去OpenAI的工作。
瀏覽 2,065 次
