AI託管成新服務，對企業的重要性在哪？｜專家論點【Howie Su】

作者：Howie Su（產業分析師）

連人工智慧都能外包託管

在當今快速發展的商業環境中，結合人工智慧已成為企業是否具備競爭優勢的關鍵戰略。但是，儘管它具備龐大的潛在商業價值，但對企業來說，開發和實施有效的 AI 解決方案卻將長待來重大挑戰，除需要大量人力與運算資源外，尚需要有專業領域知識的人才配合，而這就是AI託管的用武之地。所謂的AI託管為由第三方託管服務商 (MSP) 來提供人工智慧端到端服務，透過委外處理，AI託管企業能夠快速開發、部署和管理 AI/ML 解決方案，從而更快、更大規模地提升投資報酬率，而無需仰賴內部專業團隊，公司一方面節省自己養人成本，夠輕鬆地利用擁有各種技能的外部工程師庫，包括數據和基礎設施工程以及數據科學，一方面能將更多人力投入在業務與策略發展上。

託管 AI 與傳統託管 IT 服務不同，在一般 MSP 服務和雲 AI 服務領域上（如 ChatGPT）。儘管聽起來很容易，但託管 AI 與普通託管 IT 服務的不同之處在於，託管 AI要在人工智慧採用與機器學習開發方面具有獨特的利基專業領域知識，知識複雜度要託管IT複雜許多。託管AI讓服務與技術的組合更加複雜，使企業能夠在內部構建企業級和雲級質量的人工智能/機器學習解決方案，而無需對組織基礎設施進行資本投資，公司根據需求隨時擴大或縮小其 AI 應運規模，而非在一開使就投資昂貴的 IT 基礎設施和聘用 AI 專家。許多業者由於前期投入大量人力與IT的基礎設施，後期發現業務並不需要如此龐大資源時才發覺前期投資都打水漂了，從這個角度來看，委外確實能節省很多問題。

MLOps也是託管AI的重要組成之一

MLOps 託管是AI託管的另一個重要組成部分，特別是對於實現大規模 AI 實驗專案而言更是如此。舉例而言，若有一家大型跨國食品企業希望透過在整個組織內導入各種 AI 應用來加速轉型。然而，在使用 Managed AI 服務之前，這家公司可能耗費大量時間與人力來處理來自全球各種來源的海量數據，數據需要由不同的資料工程和資料科學團隊處理，在各自為政下很難有效地產生營運洞見，同時，團隊還要處理不同的批處理作業與GPU算力分配。MLOps 託管則讓狀況完全相反，數據科學家可以更靈活、更方便地進行實驗，從而加速團隊的開發和擴展應用城市。他們能與外部專業團隊對接，並根據需要不斷發展和改進託管 AI 服務，從而顯著簡化機器學習工作負荷管理。

當然，委外託管也並非沒有壞處，雖然節省不少基礎設施投資與人工智慧人才聘用（特別是當前人才稀缺狀況），但長期而言可能帶來數位戰力空洞化的問題。同時。相反，在內部開發和管理 AI 可能會更好地控制解決方案，但無論是在業務方面還是在技術方面，它都可能是昂貴且具有挑戰性的。此外，在 AI 託管邊沒有放諸四海皆準的解決方案，公司應仔細考慮購買與部署的利弊，外面的解決方案有幾百上千種，建立採購準則病逝外部環境隨時調整才是上策。

瀏覽 2,449 次