10萬顆GPU之戰 祖克柏又槓馬斯克

編譯/莊閔棻

Meta創辦人馬克祖克柏在財報會議中表示,公司正在利用超過10萬顆輝達H100 AI GPU龐大集群,訓練新一代Llama 4模型,這個規模在業界無人能及。雖然祖克柏未透露Llama 4的具體功能,但他強調這款新模型擁有「新的模態」、「更強的推理能力」以及「更快的運算速度」,表明Meta正加快腳步與微軟、Google以及馬斯克的xAI在AI領域一較高下。

Meta公司正在利用超過10萬顆輝達H100 AI GPU龐大集群,訓練新一代Llama 4模型。
Meta公司正在利用超過10萬顆輝達H100 AI GPU龐大集群,訓練新一代Llama 4模型。(圖/取自X@Ahmad_Al_Dahle

Meta提供免費Llama開源模型

與競爭對手不同,Meta採用開源方式釋出Llama模型,允許研究人員和企業在此基礎上開發應用。相較之下,OpenAI的GPT-4o與Google的Gemini等AI模型,則僅透過API提供使用。然而,Meta對Llama的開源仍有限制,例如禁止商業使用,且不透露訓練細節等,這種策略可能使Llama,在未來的AI市場中佔據主導地位。

更多新聞:Meta爆發AI魂 Llama 3.2產品應用一把罩

龐大電力需求成隱憂

然而,如此龐大的AI集群也帶來巨大的能源需求,單一現代AI GPU每年可消耗高達3.7MWh電力,而10萬顆AI GPU的年耗電量將至少達到370GWh,相當於可供3,400萬戶美國家庭使用的電力。由於新增電力來源需要時間。祖克柏也坦言,電力不足將成為AI發展的瓶頸。

祖克柏持續看好AI投資

即使如此,祖克柏仍強調,公司對人工智慧(AI)的巨額投資是未來發展的核心,並堅持加大AI投入,稱這將為Meta帶來長期收益與競爭優勢。指出AI技術的進步已經在公司各個領域顯現出積極效果,提升了Meta在應用和業務中的表現。他表示,AI可以加速許多核心業務的運作,如內容管理、數據分析和廣告優化。他認為這些技術不僅能強化公司現有產品,也能帶來更多創新可能。

馬斯克「算力工廠」展開挑戰

同時,Meta也並非唯一擁有10萬顆H100 AI GPU集群的公司,馬斯克在七月底啟動了同樣規模的運算集群,稱其為「算力工廠」,計畫將規模加倍至20萬顆AI GPU。儘管如此,Meta早在年初便宣布,計畫到2024年底擁有超過50萬顆H100等級的AI GPU,顯示公司對Llama 4的訓練投入了龐大的硬體資源。

Meta第三季的營收達到405.9億美元,高於市場預期。

參考資料:Tom’s HardwareInsider

※探索職場,透視薪資行情,請參考【科技類-職缺百科】幫助你找到最適合的舞台!

瀏覽 507 次

覺得不錯的話就分享出去吧!

發佈留言

Back to top button