亞馬遜擴大與Nvidia合作 自研新一代雲端AI晶片
編譯/李寓心
全球最大的電子商務平台亞馬遜(Amazon)旗下的AWS網路雲端部門,日前宣布推出新晶片「Trainium2」,一款可用於訓練人工智慧模型的晶片,提供客戶建置和運行人工智慧應用程式,並計畫提供給Nvidia下一代H200繪圖處理器(GPU)使用,同時目前AWS客戶可開始測試,AWS新通用的Graviton4處理器。
根據報導,自從新創公司OpenAI在2022年推出ChatGPT聊天機器人以來,具有擬人化的總結和撰寫文字能力,使各公司競相投入生成式人工智慧的技術,納入在產品當中,不僅對Nvidia GPU的需求猛增,也造成晶片短缺。因此,亞馬遜這次推出的自製晶片,可讓客戶使用Nvidia最新晶片的做法,作為對抗最大雲端運算競爭對手的微軟(Microsoft)。因為在11月初時,微軟也採取類似的方式,發布首款人工智慧晶片Maia 100,並表示Azure雲端將配備Nvidia的H200 GPU。
更多新聞:訓練AI模型最高階晶片 Nvidia推出新一代H200圖形處理器
更高CP值的新一代Trainium2
具體來說,AWS提供Nvidia最新晶片H200 GPU的存取,同時,也推出亞馬遜自製的Trainium2新人工智慧晶片和通用的Graviton4處理器。Trainium2晶片,主要是為訓練AI模型而建構,包括OpenAI的ChatGPT及其他競爭對手等類型的AI聊天機器人。對此,亞馬遜表示,新創公司Databricks和亞馬遜支援的OpenAI競爭對手Anthropi,皆將使用新晶片Trainium2所構建的模型,性能將是原始型號的4倍。而Graviton4處理器則基於Arm架構,比Intel或AMD晶片耗損更小,比現有的Graviton3晶片效能,提高30%,具有更高的性價比,現已有超過5萬名的AWS客戶正在使用Graviton晶片。
AWS著眼雲端AI晶片的發展
亞馬遜也補充表示,作為與Nvidia深化關係的一部分,AWS將運作超過16,000個Nvidia GH200 Grace Hopper超級晶片,其中包含Nvidia GPU和Nvidia基於Arm的通用處理器,提供Nvidia的研發團隊和AWS客戶都能利用這項基礎設施。自2006年AWS發布用於運算和儲存資料的EC2和S3服務以來,已經推出200多種雲端產品,雖然很長時間沒有進行更新,但該公司對Graviton和Trainium項目的持續投資,表明亞馬遜對該系列晶片的需求。
資料來源:CNBC
※更多ChatGPT相關訊息,請參考【生成式AI創新學院】。
瀏覽 745 次