NVIDIA 宣布推出AI超級電腦　年底供貨

記者／Shirley

NVIDIA創辦人暨執行長黃仁勳在5月29日的COMPUTEX主題演講上，宣布推出全新級別大型記憶體 AI 超級電腦，NVIDIA DGX GH200 超級電腦預計將於今年底開始供貨，將替生成式人工智慧語言應用、推薦系統及資料分析工作負載開發巨型的下一代模型。

NVIDIA創辦人暨執行長黃仁勳發表COMPUTEX主題演講。圖片來源：NVIDIA YouTube

「生成式人工智慧、大型語言模型和推薦系統是推動現代經濟發展的引擎。DGX GH200 超級電腦集 NVIDIA 各項最先進的加速運算和網路技術於一身，以拓展 AI 的發展。」黃仁勳表示。

NVIDIA DGX GH200 超級電腦，搭載 NVIDIA  GH200 Grace Hopper 超級晶片與 NVIDIA NVLink Switch System，有巨大的共享記憶體空間，使用 NVLink 互連技術及 NVLink Switch System 來連接256個 GH200 Grace Hopper 超級晶片，讓所有超級晶片以單一 GPU 之姿來執行各項作業。提供了 1 exaflop 的效能和 144 TB 的共享記憶體，於2020年推出的前代NVIDIA DGX A100系統的記憶體容量增加了近500倍。

NVIDIA表示， NVLink 技術大幅度拓展人工智慧 GH200 超級晶片使用 NVIDIA NVLink-C2C 晶片互連技術，將基於Arm架構的NVIDIA Grace CPU 與 NVIDIA H100 Tensor 核心 GPU 結合在同一個封裝裡，讓GPU 與 CPU間頻寬加大7倍、將互連的耗電量減少5倍以上，提供 DGX GH200 超級電腦 600GB Hopper 架構的 GPU 模組 (building block)。

上一代系統在不影響效能的情況下，用 NVLink 技術只能連結8個 GPU 當成一個 GPU 來使用。DGX GH200 是首款將 Grace Hopper 超級晶片搭配 NVIDIA NVLink Switch System 使用的超級電腦，透過 NVLink 技術把 DGX GH200 系統裡的所有 GPU 連接起來，當成一個 GPU 來使用，頻寬是上一代產品的48倍，只要簡單編程單個 GPU ，就能提供大型人工智慧超級電腦的強大運算實力。

首批預計可使用 DGX GH200 來探索生成式人工智慧工作負載能力的公司，括Google Cloud、Meta與微軟，另外NVIDIA 將以 DGX GH200 為基礎來打造自家的人工智慧超級電腦，以支援研發團隊進行各項工作。這部名為 NVIDIA Helios 的超級電腦將搭載四套 DGX GH200 系統，每套 DGX GH200 系統將使用 NVIDIA Quantum-2 InfiniBand 網路技術互相連接，以加快處理訓練大型人工智慧模型的資料。Helios 超級電腦將使用1,024個 Grace Hopper 超級晶片，並預計將在今年底上線。

瀏覽 31,053 次