AI雞蛋不敢放同個籃 Vmware撿到AI彈藥
編譯／戴偉丞
2023年的秋天，OpenAI面臨全球大當機，2024年的夏天也發生微軟（Microsoft）服務全球斷線，種種事件均警示著用戶們，切勿將所有生成式人工智慧雞蛋放在同個籃子。這刻起，各家廠商均開始蠢蠢欲動，出現大量開源模型、更具經濟成效的方案、特性與功能的競賽。此外，各國法規範要求也促使地端資料中心或私有雲的需求。有鑑於前述諸項原因，部分用戶也正尋求第三方雲端平台，使其擺脫單一廠商依賴。VMware正是這些平台競爭者之一。
新增Nvidia外掛程式
2023年11月美國晶片製造商博通（Broadcom）宣布將以610億美元正式收購VMware，更於2024年的「VMware Explore」年度大會上宣布開始支援VMware Private AI Foundation的模型服務，並在其VMware Cloud Foundation 9平台上新增輝達（Nvidia）外掛程式。VMware 和輝達的聯合平台於2024年5月已經正式上路，其中支援輝達的人工智慧模型、工具、架構等等。
該聯合平台甫發布之際，就允許企業部署生成式人工智慧相關應用程式，其中也包含向量資料庫，以便用戶得以使用資料檢索，增強生成功能（RAG），使人工智慧提供更為精準與最新的回應，更允許企業開發人員，提供適合的人工智慧模型及其存取控制權。
模型「彈藥庫」琳瑯滿目
VMware產品副總裁Paul Turner表示，這確保了沒有人會使用你不想用的大型語言模型。對此，他進而補充道，有鑑於用戶並不曉得其網路上大型語言模型的出處，因此該聯合平台的服務提供用戶一種管理大型語言模型的方法，使其得以真正地觸發生成式人工智慧創新。
目前，VMware客戶可以使用輝達、Hugging Face的人工智慧模型，以及Meta Llama 3模型、Google Mistral模型。除了模型存取外，其他新功能還包括透過整合存取控制，來保護模型的工具、簡化部署工作流程、PDF資料提取等人工智慧功能。
資料來源：Network World
※探索職場，透視薪資行情，請參考【科技類-職缺百科】幫助你找到最適合的舞台！
瀏覽 285 次
