Google Cloud推出A4X虛擬機器！採用輝達架構 AI算力飆升4倍

編譯／戴偉丞

Google Cloud宣布推出A4X虛擬機器，採用輝達（Nvidia）GB200架構的NVL72伺服器，並搭載72顆B200 GPU與36顆Grace CPU，專為大規模人工智慧訓練與推理應用設計。這些高效能運算資源特別適用於上下文較長的大型語言模型、推理模型以及高算力需求的人工智慧應用場景。同時，Google亦提供A4虛擬機器，針對一般人工智慧訓練與開發需求，為雲端人工智慧市場提供更多選項。

算力提升四倍

根據Google Cloud的數據顯示，A4X VMs的人工智慧訓練效率較前一代搭載輝達H100 GPU的A3 VMs足足提升了四倍，並能提供超過1 ExaFLOPS（每秒浮點運算次數）的運算能力。A4X VMs採用Titanium ML網卡，係基於輝達ConnectX-7 NICs乙太網路介面卡運作，可支援 28.8 Tbps低延遲GPU對GPU的數據傳輸。

更多新聞：南韓砸7.5兆拚AI：狂買1萬顆GPU、成立國家隊 還要推「韓版ChatGPT」

無縫擴展與高效部署

Google Cloud亦透過Jupiter網路架構，使NVL72伺服器的節點間能夠無所遁形地擴展至數萬顆Blackwell GPU。此外，Google Kubernetes Engine最多能夠支援65000節點的人工智慧訓練叢集，並透過GPU資源共享等相關技術，最大化人工智慧部署的運算效率。A4X亦整合Google Cloud的服務，像是Cloud Storage FUSE與Hyperdisk ML，以提升數據處理效能，強化雲端人工智慧運算能力。

A4X與A4服務定位

Google Cloud目前提供A4與A4X兩款虛擬機器，以滿足不同人工智慧的工作負載需求。其中，A4X針對大型人工智慧訓練、大型語言模型等需求，而A4則適用於一般人工智慧訓練與模型微調。然而，Google並未公佈兩者的定價細節，市場對其價格與競爭優勢仍在觀望。

資料來源：Tom’s Hardware

※探索職場，透視薪資行情，請參考【科技類-職缺百科】幫助你找到最適合的舞台！

瀏覽 148 次