高階顯卡缺貨重演  NVIDIA受益匪淺

記者/劉閔

顯卡大缺貨可能將再度重演,由於近期受到微軟將搜尋引擎整合 ChatGPT 與加上其他 AI 生成式工具需求攀升,而這些都是相當依賴人工智慧處理能力,也正是 NVIDIA GPU 優勢所在。以致當各科技公司利用 NVIDIA GPU 技術滿足不斷增生的 AI 需求時,將直接導致市場 GPU 供貨短缺,而最先會擠壓到遊戲玩家供應。

據悉目前 ChatGPT 模型在大約 25,000 個 NVIDIA GPU 上訓練,比初期測試的 10,000 個高出許多。

根據外媒報導,ChatGPT 初期在 10,000 個 NVIDIA GPU 上進行訓練,但自從獲得關注後系統就出現不堪負荷情況,無法滿足龐大用戶的需求。為此 OpenAI 推出全新的 ChatGPT Plus 訂閱計畫,透過付費方式讓用戶可以在高峰時段供造訪權限,還可獲得更快的回應以及對於新功能優先使用權利。

而當微軟和谷歌宣布將對話式大型語言模型整合到自家的搜尋引擎時,以谷歌為例,據悉要將 AI 模組整合搜尋結果中,估計需要 512,820 台 A100 HGX 伺服器與 4,102,568 個 A100 GPU;光伺服器和網路成本其支出總額就高達 1,000 億美元(3 兆台幣)左右。

雖然生成 AI 市場激增對於 NVIDIA 的確是利多消息,但在面對消費市場且尤其是遊戲玩家而言恐怕將帶來不小災難。可能出現 NVIDIA 優先供貨給生成式 AI 需求的科技公司,而將遊戲玩家需求至於諸後。

高階 GPU 是 AI 生成技術仰賴的至關重要零件,這的確是讓 NVIDIA 有利可圖,但是否會在龐大需求下而造成供貨短缺問題還有待觀察。

瀏覽 744 次

覺得不錯的話就分享出去吧!

發佈留言

Back to top button