什麼是超級網卡？用於AI雲端加速的SuperNIC

編譯／高晟鈞

Nvidia最近推出了全球首款專為AI計算量身訂製的SuperNIC，這款搭建在BlueField-3網路平台的新型網路加速器，與Spectrum-4乙太網路共同構成了專為優化AI工作負載的加速器系統。

人工智慧和網路相輔相成

人工智慧與大型語言模型的出現，釋放了電腦進行更高階運算的潛力。AI的成功很大程度上依賴GPU加速運算來處理大量資料，但也對乙太網路雲端網路有了更高的要求。

更多新聞：訓練AI模型最高階晶片 Nvidia推出新一代H200圖形處理器

傳統的乙太網路是支撐整個互聯網基礎設施的技術，以兼容性著稱，旨在滿足一般用戶的不同需求。另一方面，基礎網路介面卡（NIC）也是為了通用運算、資料傳輸而設計。兩者的設計目的本就不是為了滿足AI加速運算的苛刻需求，因此，SuperNIC的誕生有望提供AI一個更好的運算環境。

SuperNIC的優勢

資料處理單元（DPU）提供高通量資訊傳輸、低延遲網路連線等優勢，因此在雲端運算領域廣受歡迎。SuperNIC與DPU功能類似，但SuperNIC針對加速AI網路進行了獨特的優化。

人工智慧訓練很大程度上取決於網路頻寬的可用性，而SuperNIC的每個GPU能提供令人驚豔的400GB/s網路頻寬。另外，由於SuperNIC唯一的用途只為了加速AI運算的網路連線；因此，它可以使用比DPU更低的運算能力，來達到同樣的效能。而較低的運算需求，也意味著更低的功耗，這對於多達8個SuperNIC的系統尤為重要。

徹底改變人工智慧雲端運算

Nvidia Blue-Field SuperNIC具有多項優勢，支撐更優化的AI運算系統：

• 最大化AI工作負載效率：Blue-Field SuperNIC專為網路密集、大規模並型運算而生，可以確保人工智慧高效運作，沒有瓶頸。
• 效能一致性：在同時處理大量任務時，Blue-Field SuperNIC確保每個租戶的效能都是隔離，不會相互影響彼此的效能權益。
• 安全性：安全性對於處理敏感資訊的資料中心尤其重要。Blue-Field SuperNIC保持最高安全級別，使多個用戶可以共存，同時保持資料和處理時的隔離。
• 可擴展的網路架構：Blue-Field SuperNIC不受限制，可以適應無數其他網路基礎設施的要求。
• 支援廣泛的服務器製造商：Blue-Field SuperNIC能無縫融入大多數企業級伺服器，而且不會增加資料中心的能源消耗。

資料來源:NVIDIA.COM

瀏覽 782 次