輝達Project Digits AI超級電腦有多強大?揭密你需要知道的一切
編譯/莊閔棻
在CES 2025美國最大國際消費性電子展上,輝達發布了其首款個人人工智慧(AI)超級電腦「Project Digits」。此項產品專為數據科學家與AI工程師設計,滿足生成式AI模型開發的全過程需求,從推理、微調到生成AI助理,皆可在此平台完成。以下我們就將帶大家來了解這台超級電腦。
平價且便攜的個人AI解決方案
Project Digits起售價為3,000美元,搭載輝達最新的GB10 Grace Blackwell超級晶片,能在設備內執行大型AI模型,成為個人和小型團隊負擔得起的開發工具。
更多新聞:個人AI超級電腦誕生 輝達Project Digits將雲端搬到電腦桌面
硬體規格:桌上型AI強大動力
Digits的核心是由GPU與CPU高效結合的Grace Blackwell超級晶片,並具備以下關鍵規格:
- Blackwell GPU:擁有CUDA核心與第五代Tensor核心,加速AI計算。
- Grace CPU:內建20個高效能ARM核心,與GPU協同運作。
- NVLink-C2C互聯技術:提供高頻寬、低延遲的數據傳輸能力。
- 128GB統一記憶體:CPU與GPU共享記憶體,提升處理速度。
- 高速NVMe記憶體:加快數據訪問速度,優化模型訓練和執行效率。
- 1PetaflopAI性能:輕鬆應對大型AI模型。
此外,Digits僅需普通電源插座即可運行,擺脫傳統超級電腦高耗能的限制。
專為AI開發優化軟體生態系統
Digits基於輝達的DGXOS作業系統,並預載輝達AI Enterprise軟體平台,支持主流的AI開發框架(如PyTorch、Python和Jupyter Notebooks),還整合NeMo框架及RAPIDS資料科學庫,能全面提升開發效率。
擴展性與雲端整合特性
借助輝達ConnectX網路技術,兩台Digits可串聯運行高達4050億參數的AI模型,開發者亦可在設備內完成模型原型設計,並無縫部署至雲端或數據中心環境。
與聯發科合作實現高效能與低功耗
輝達執行長黃仁勳強調,與聯發科(MediaTek)合作的Digits,是高效能和低功耗設計的重要支柱。同時,Digits還能透過Windows Sub system for Linux技術與Windows環境無縫整合,讓開發者輕鬆利用其性能優勢。
目標使用者與應用場景
Digits專為AI研究人員、數據科學家及開發者設計,可在設備內、雲端或數據中心環境中原型設計、微調和運行AI模型,應對各種生成式AI挑戰。其應用範疇涵蓋大型語言模型微調、AI演算法研究以及生成AI內容等。
親民定價加速AI民主化
Digits預計將於5月發售,售價從3,000美元起,為更多開發者提供高性能且經濟實惠的工具,推動AI開發的普及化進程。透過結合強大硬體、全面軟體平台與高效設計,輝達Digits將AI超級電腦的性能帶入桌面。隨著其上市,勢必引領新一波的創新應用與技術突破,讓生成式AI更加觸手可及。
參考資料:forbes
※探索職場,透視薪資行情,請參考【科技類-職缺百科】幫助你找到最適合的舞台!
瀏覽 296 次