耐能推最新邊緣GPT與AI物聯網解決方案,強化企業資安、智慧轉型
記者/孫敬 Archer Sun
隨著大型語言模型(LLM)崛起,生成式AI儼然成為各個產業爭相導入、開發的重要工具。AI晶片新創耐能智慧表示將在今年6月《2024年臺北國際電腦展》(COMPUTEX 2024),展出五項含GPT和AI物聯網相關最新解決方案。
延伸閱讀:ChatGPT4.5正式版將上線!邏輯推理、口語大強化超車Claude3
AI與智慧物聯網結合,助企業保障資安、加速智慧轉型
耐能專注邊緣Soc晶片研發,服務範圍覆蓋終端設備生成式AI、物聯網 (IoT)、汽車電子、消費電子、城市安防、等關鍵領域,本次釋出的五項邊緣運算解決方案,多聚焦離線GPT與智慧物聯網。
1. 離線私有化GPT方案:與傳統的雲端大語言模型不同,耐能此次展出的EDGE GPT解決方案,能夠離線進行即時數據分析和智慧決策,亦可以相容於公司既有的權限存取管理,安裝於公司防火牆之後因不仰賴連網需求,能有效降低企業及科研機構資料洩露風險。
2. AI PC方案:耐能與PC產業鏈合作,推出基於耐能新一代KLL830晶片的AI PC方案,以支援在PC終端上部署本地RAG及大語言模型能力。即使在離線狀態下,也能在AI PC設備上運行大規模語言模型,實現更專業的本地知識庫問答及智慧文檔管理和搜索。
3. AI 板卡(GPU+NPU):採用耐能可堆疊架構的KLL830, 提供高達40 TOPS等效算力的板卡,擁有體積小、性能強、功耗低優勢,可用於PC,工業電腦或是終端伺服器上。
4. 汽車智慧駕駛:耐能帶來的智慧輔助駕駛方案,透過成熟的ISP及AI演算法,有效監測駕駛員狀態並適應行車過程中 「隧道場景」、「逆光」等複雜光線場景,支持120db寬動態、星光級低照,並可識別人、車、標誌和障礙物等。
5. AI物聯網:基於耐能AI Soc和高能ISP 演算法的IP Cam及諸多智慧場景方案,覆蓋了門禁,全場景會議,及紅外熱成像監控場景。滿足客戶多種複雜安防環境及智慧需求,具備離線運算,高精度,低延遲等優勢。
「隨著生成式AI的爆炸性發展,加速了GPT技術融入在更多行業之中的廣泛應用,將讓人工智慧(AI)能力更易被眾多普通消費者所感知,而且可能會創造一個由AI驅動的新技術升級週期。」耐能創辦人暨執行長劉峻誠博士補充。
瀏覽 691 次