現身SIGGRAPH大會 黃仁勳:明年AI帶來更多創新

記者/劉閔

洛杉磯的SIGGRAPH大會上,Nvidia執行長黃仁勳身穿一身黑色皮衣勁裝,於9日引人注目地展示了全球最新的人工智慧超級晶片GH200。他興奮地向聽眾們介紹這一創新產品,指出GH200的優越性能將重新定義資料中心的架構,並為人工智慧領域帶來顯著的突破。

GH200是首款結合CPU和GPU的超級晶片,同時也是第一款搭載高頻寬記憶體HBM3e的晶片。(翻攝自SIGGRAPH大會直播)

黃仁勳表示,過去建設資料中心的成本高達1億美元,但轉用GH200後,成本可以降低12倍。此外,GH200憑藉其強大的運算能力,還能降低能源消耗20倍,實現更環保的運算。

更多新聞:黃仁勳返台了!Nvidia執行長如何從AI教父到半導體新天王?

GH200作為結合CPU和GPU的超級晶片,利用NVLink技術實現高效的CPU-GPU互聯。Nvidia官網指出,NVLink技術提供更好的擴充性,使得深度學習訓練能夠以超快速度進行。根據黃仁勳的說法,GH200將於2024年第二季量產,這款晶片的正式亮相將在明年為AI領域帶來更多的創新。

GH200是首款結合CPU和GPU的超級晶片,同時也是第一款搭載高頻寬記憶體HBM3e的晶片。這種結合增加了記憶體容量且速度更快,每秒可傳輸的資料量相較於之前的晶片增加了1.7倍。在AI時代,這將為大量且快速運算的需求提供優越性能。

輝達副總裁Ian Buck在線上說明會中解釋,GH200專為「推理」(inference)設計,同時擁有更大的記憶體容量,以支持更大的AI模型運行。相較於擁有80GB記憶體容量的H100,GH200的記憶體容量達到141GB,這使得單一GPU即可運行更大型的模型,無需跨多個系統或多個GPU。

瀏覽 477 次

覺得不錯的話就分享出去吧!

發佈留言

Back to top button