恩智浦新增邊緣AI、LLM新工具助開發人員更快部屬人工智慧模型
記者/孫敬 Archer Sun
IC設計與製造垂直整合半導體公司恩智浦半導體(前身為飛利浦半導體),宣布在eIQ AI和機器學習開發軟體新增兩款工具:「eIQ Time Series Studio」、「GenAI Flow」,提升跨邊緣處理器及部署、大型語言模型(LLM)建構模組。
延伸閱讀:OpenAI 推出新基準測試工具 提升機器學習工程效能
恩智浦兩項新工具降低邊緣部署AI的難度
恩智浦表示,eIQ Time Series Studio可提供自動化機器學習工作流程,可在MCX系列MCU產品,或是在i.MX RT跨界MCU產品組合等MCU級裝置,開發和部署基於時間序列(time series-based)的機器學習模型,並支援多種輸入訊號,包括電壓、電流、溫度、振動、壓力、聲音、飛行時間(time of flight;ToF)等,以及用於多模態感測器(multi-modal sensor)融合的訊號組合。
借助自動機器學習功能,開發人員能夠從原始時間序列(time-sequential)資料中提取有意義的洞察,快速建立可以滿足效能、記憶體、快閃記憶體大小和準確性標準而客製化的AI模型,該工具提供完整的開發環境,包括資料管理、視覺化和分析、以及模型自動生成、最佳化、模擬和部署。
GenAI Flow主要支援LLM建構模組,還可以與恩智浦i.MX系列應用處理器MPU配合使用,在特定情境資料中訓練LLM,讓生成式AI應用可以在邊緣裝置上運行,並提供檢索增強生成(RAG),能夠在不對該模型或處理器供應商透露敏感資訊的情況下,運用特定領域(domain-specific)知識和私有資料以安全的方式微調模型。透過將多個模組連結至單一流程,客戶可根據其任務輕鬆定制LLM,並使用恩智浦i.MX 95應用處理器等MPU進行最佳化,以便在邊緣部署。
「AI是實現根據使用者需求預測和自動化的關鍵,但必須以適合邊緣部署的方式進行開發。」恩智浦半導體資深副總裁暨工業與物聯網事業部總經理Charles Dachs指出,恩智浦提供即用型(ready-to-use)工具,適用於MCX系列等MCU以及i.MX RT700等跨界MCU的小型AI模型,以及在i.MX 95應用處理器涵蓋各類AI模型和支援AI的邊緣處理器,使邊緣AI真正適用於各行各業的應用開發人員。
※探索職場,透視薪資行情,請參考【科技類-職缺百科】幫助你找到最適合的舞台!
瀏覽 47 次