不讓Google和英特爾專美於前  Meta推新款AI晶片

編譯／莊閔棻

為不讓Google和英特爾專美於前，在兩家公司宣布其最新人工智慧（AI）晶片的第二天，Meta也公布了有關該公司下一代內部AI晶片MTIA的詳細資訊，並承諾其下一代客製化AI晶片將更加強大、更快地訓練排名模型。

MTIA

據報導，該晶片被稱為下一代「Meta訓練和推理加速器」（MTIA），是去年 MTIA v1 的後繼者。目前MTIA主要訓練排名和推薦演算法，包括在 Meta 的 Facebook等平台上排名和推薦廣告，但 Meta 表示，最終目標是擴展晶片的功能，開始訓練生成式AI，如 Llama 語言模型。

更多新聞：和輝達拚了！  英特爾推出最新AI晶片Gaudi 3

比前一代強3倍

Meta 表示，下一代 MTIA 目前已在其 16 個資料中心區域投入使用，與 MTIA v1 相比，整體效能提高了 3 倍。Meta指出，「因為我們控制整個堆疊，所以與商用 GPU 相比，可以實現更高效率。」MTIA 是Meta長期計畫的一部分，並希望該晶片能與當前技術基礎設施和 GPU 相結合。

採用5奈米製程

與基於 7奈米製程建構的 MTIA v1 相比，下一代 MTIA 採用 5奈米製程（在晶片製造中，「製程」是指可以在晶片上建構的最小零件的尺寸）。在設計上，下一代 MTIA雖然更大，但比其前身配備了更多的處理核心，雖然其會消耗更多的功率（從25W 上升到90W ），但它也擁有更多的內部記憶體（從64MB上升到128MB），並以更高的平均時脈速度運行（從 800MHz 上升到 1.35GHz）。

還沒用來訓練AI

雖然Meta已在數據中心部署自研AI晶片，但Meta 也透露，目前他們還沒有使用下一代 MTIA 處理生成式 AI 訓練工作負載，只有幾個以擴大MTIA應用範圍為目標的專案正在進行中，包括支援生成式AI 工作負載。不過Meta也承認，下一代 MTIA 不會取代用於運行或訓練模型的 GPU，而是對其進行補充。

參考資料：Tech Crunch、The Verge、Reuters

瀏覽 181 次