10萬顆GPU之戰 祖克柏又槓馬斯克

編譯／莊閔棻

Meta創辦人馬克祖克柏在財報會議中表示，公司正在利用超過10萬顆輝達H100 AI GPU龐大集群，訓練新一代Llama 4模型，這個規模在業界無人能及。雖然祖克柏未透露Llama 4的具體功能，但他強調這款新模型擁有「新的模態」、「更強的推理能力」以及「更快的運算速度」，表明Meta正加快腳步與微軟、Google以及馬斯克的xAI在AI領域一較高下。

Meta提供免費Llama開源模型

與競爭對手不同，Meta採用開源方式釋出Llama模型，允許研究人員和企業在此基礎上開發應用。相較之下，OpenAI的GPT-4o與Google的Gemini等AI模型，則僅透過API提供使用。然而，Meta對Llama的開源仍有限制，例如禁止商業使用，且不透露訓練細節等，這種策略可能使Llama，在未來的AI市場中佔據主導地位。

更多新聞：Meta爆發AI魂 Llama 3.2產品應用一把罩

龐大電力需求成隱憂

然而，如此龐大的AI集群也帶來巨大的能源需求，單一現代AI GPU每年可消耗高達3.7MWh電力，而10萬顆AI GPU的年耗電量將至少達到370GWh，相當於可供3,400萬戶美國家庭使用的電力。由於新增電力來源需要時間。祖克柏也坦言，電力不足將成為AI發展的瓶頸。

祖克柏持續看好AI投資

即使如此，祖克柏仍強調，公司對人工智慧（AI）的巨額投資是未來發展的核心，並堅持加大AI投入，稱這將為Meta帶來長期收益與競爭優勢。指出AI技術的進步已經在公司各個領域顯現出積極效果，提升了Meta在應用和業務中的表現。他表示，AI可以加速許多核心業務的運作，如內容管理、數據分析和廣告優化。他認為這些技術不僅能強化公司現有產品，也能帶來更多創新可能。

馬斯克「算力工廠」展開挑戰

同時，Meta也並非唯一擁有10萬顆H100 AI GPU集群的公司，馬斯克在七月底啟動了同樣規模的運算集群，稱其為「算力工廠」，計畫將規模加倍至20萬顆AI GPU。儘管如此，Meta早在年初便宣布，計畫到2024年底擁有超過50萬顆H100等級的AI GPU，顯示公司對Llama 4的訓練投入了龐大的硬體資源。

Meta第三季的營收達到405.9億美元，高於市場預期。

參考資料：Tom’s Hardware、Insider

※探索職場，透視薪資行情，請參考【科技類-職缺百科】幫助你找到最適合的舞台！

瀏覽 52 次