加速生成式AI模型　NVIDIA DGX H100系統開始出貨

記者／Shirley

在MIT Technology Review舉辦的Future Compute活動上，NVIDIA企業運算副總裁 Manuvir Das宣布DGX H100系統開始出貨，可加速生成式AI模型，為全球產業帶來先進的人工智慧功能，目前從東京到斯德哥爾摩的NVIDIA客戶將使用NVIDIA最新AI超級電腦，提升包括製造、醫療照護、機器人等諸多領域生成式 AI應用在內的工作負載。

NVIDIA表示，DGX H100搭載了8個GPU，每個NVIDIA H100 Tensor Core GPU的性能平均比之前的 GPU 高出約6倍，每個GPU都有一個Transformer Engine，可加速生成式AI模型。8個H100 GPU透過NVIDIA NVLink連接，形成一個巨大的GPU。組織還可以進一步擴展DGX H100系統，使用400 Gbps超低延遲NVIDIA Quantum InfiniBand將數百個DGX H100節點連線到一台AI 超級電腦，速度是之前網路的2倍。

DGX H100系統在用於加速運算、儲存和網路基礎設施並優化人工智慧工作負載的套件NVIDIA Base Command上運行，DGX H100 系統還包括NVIDIA AI Enterprise軟體，可加速資料科學流程，並簡化生成式 AI、電腦視覺等的開發和部署。DGX 平台具備高效能和高效率。與DGX A100相比，DGX H100每petaflop運算力的千瓦數能源效率提高了2倍。

NVIDIA表示，來自日本、厄瓜多和瑞典的客戶正將NVIDIA DGX H100系統如人工智慧工廠一樣使用來生成情資。創建能夠提供金融、醫療、法律、IT和電信產業等基於人工智慧洞見的服務，並致力於透過這個過程協助這些產業轉型。

其中包括名為Green Physics AI的系統，可用於預測工廠設備的老化程度，以提升未來工廠的效率。Green Physics AI將物體的碳足跡、年齡和能源消耗等資訊添加到號稱為製造業最大合成數據集的SORDI.ai中。這個數據集讓製造業者開發強大的人工智慧模型，並創建優化工廠和倉庫效率的數位孿生。使用Green Physics AI，可以為工廠的產品和其中使用的零組件優化能源使用和減少CO₂排放。

機器人先驅波士頓動力公司Boston Dynamics 的一家研究機構Boston Dynamics AI Institute（The AI Institute），則將使用DGX H100 系統做機器人代理服務員，波士頓動力公司的首席科學家，幫助創造了Spot四足機器人，可以在樓梯上行走，甚至可以自己開門。最初，DGX H100將處理強化學習中的任務，這是機器人技術中的一種關鍵技術。之後，將在直接與實驗室中原型機器人連線的情況下運行人工智慧推理工作。

另外NVIDIA表示，新創企業也可使用DGX H100系統，來駕馭生成式AI浪潮。如位於倫敦和紐約的Scissero使用GPT驅動的聊天機器人來提高法律流程的效率。其Scissero GPT可以起草法律文件，生成報告並進行法律研究。在德國，DeepL將使用多個DGX H100系統來擴展其為客戶提供的幾十種語言之間的翻譯服務，其中包括日本最大的出版公司Nikkei。DeepL最近推出了一個名為DeepL Write的人工智慧寫作助理。

在東京，DGX H100s 將作為Tokyo-1 超級電腦的一部分，將運行模擬和人工智慧以加速藥物發現過程。另外，德國、以色列和美國的醫院和學術醫療機構將成為DGX H100系統的首批用戶。而DGX H100將為約翰霍普金斯大學應用物理實驗室訓練大型語言模型。 瑞典皇家理工學院將使用一台DGX來擴展其超級運算能力。日本網路服務公司CyberAgent正在製作智慧數位廣告和名人虛擬化身。 厄瓜多爾領導電信服務供應商Telconet，正在為安全城市和語言服務建構智慧影像分析，以支持跨西班牙語方言的客戶。

瀏覽 723 次