資料不上雲也能用最強 AI！Google Gemini搭配NVIDIA Blackwell 正式支援在地部署

記者 鄧天心／綜合報導

美國時間4月9日，在拉斯維加斯舉行的Google Cloud Next大會上，Google與NVIDIA宣布，現在企業可以把Google最新的Gemini AI模型安裝在自己的伺服器裡，不必再上傳資料到雲端就能使用AI，平台搭配了NVIDIA的Blackwell晶片，處理速度更快，同時還有機密運算技術，減少外洩的風險，對資安敏感的產業來說更是一大福音。

更多新聞：Google Cloud Next 2025 5大亮點一次看！推出新AI晶片 比超級電腦快24倍

Gemini AI不再只能跑雲端 可在公司伺服器上運作

過往企業要使用Gemini AI模型，需要先上傳資料到Google雲端上，但現在可以直接在搭載NVIDIA Blackwell的Google Distributed Cloud（簡稱GDC）平台上處理，以後企業資料不需要上傳到雲端，就能使用最新的AI技術。另外，針對想要混合部署的企業，想要有部分資料上傳雲端、部分資料在地端處理的企業，現在Google也提供了在Google Kubernetes Engine（GKE）上執行的，機密資料一樣可以留在地端，其他處理則交給雲端來跑，同樣也有NVIDIA的機密運算技術保護Gemini模型中的敏感資料不外洩。

根據Google部落格指出，過去，許多企業因為法規限制，或是資料量過大，無法上傳資料，只能儲存在內部伺服器的，所以無法有效使用AI處理資料，雖然有些企業可能選擇開源模型，或自行組裝軟硬體系統，但效能然仍有限，像醫療、金融、政府這類對資料安全要求很高的產業，因為資料不能離開公司，AI技術在處理資料上的應用就受限，沒辦法產生多樣圖片或是打造自己的智慧助理，但現在Google Distributed Cloud有了Gemini模型，就能解決類似的技術瓶頸跟法律問題。

不必連網也能用AI的GDC是什麼？

Google Distributed Cloud是Google推出的一種企業用雲端平台，就像是一個「內建AI腦袋」的資料中心，不用連網也能運作，對安全要求較高的企業，例如醫院、銀行或政府機關很適合，GDC的規模可以小到一台伺服器，也可以擴充到上百個機櫃，彈性很大，這個平台也包含基本功能，像是基礎架構、資料儲存與保護、安全防護機制，還有能運行AI模型的技術，根據Google部落格的介紹，GDC有了Gemini API後，生成式AI也將從雲端落地，到企業內部來滿足更多商業應用，而Gemini模型有幾個特色，包含能處理超過百萬個字元的長篇內容，在推理能力與運算效能上表現出色，除了文字之外，還能同時分析圖片、聲音、影片等不同形式的資料，最後他也能支援超過100種語言，適合跨國企業來解決翻譯問題，Google Cloud基礎設施與解決方案部門副總裁暨總經理 Sachin Gupta 表示，GDC平台有了Gemini模型加入，還搭載了NVIDIA Blackwell高效運算能力與機密運算技術，讓企業開發自己的代理型AI（Agentic AI）。

近期，大家也在關注代理型AI的潛力，而代理型AI跟傳統AI（像ChatGPT）最大的差異在於，傳統型AI要有人給他知識才能回答問題或生成內容，是偏向「被動型」的工具，而所謂的代理型 AI可以自己判斷、推理，最後做出決策，相較傳統的AI能處理更多複雜的任務，以金融產業為例，傳統AI可以辨識出疑似詐欺的交易模式，而代理型AI不僅能辨識，還能進一步追查異常背後的原因，甚至發生問題前就先攔截，即時調整防詐偵測。

有了Gemini的GDC能幹嘛？

Google也舉了三個企業可以實際應用的案例給大家參考，第一，企業可以「讓AI更懂你們公司的內容」，很多公司都有自己的資料，像是產品介紹、內部文件、客戶常問的問題等等，這些資料可以提供給Gemini參考，讓它回答問題時不只是照著原本學到的內容說，而是結合你公司的實際情況，給出更準確的答案，這種方式叫做RAG技術，簡單說，就是邊查資料邊作答，讓企業不用重新訓練整個模型，就能做到客製化；第二是讓AI快速整理資料，比方說，公司常常收到很多文件、報告或顧客的留言，Gemini可以摘要重點、判斷回饋，甚至幫圖片、聲音、影片加上說明；第三個，是做出「更像真人的對話 AI」，公司可以用Gemini打造客服機器人，讓客人問問題時，機器人能用更自然的語言回應；或是變成個人AI助理，幫忙找資料、安排工作，不只是「會講話」而已，而是可以理解上下文、記得你說過什麼，整體互動更順、更像跟真人在聊天。

瀏覽 1,561 次