恩智浦在其eIQ AI和機器學習開發軟體新增具有檢索增強生成(RetrievalAugmented Generation;RAG)微調功能的GenAI Flow和eIQ Time Series Studio,以便在小型微控制器(MCU)到功能更強大的大型應用處理器(MPU)等各種邊緣處理器輕鬆部署和使用人工智慧 【臺北訊,2024年11月5日】恩智浦半導體(NXP Semiconductors N.V.; NASDAQ:NXPI)宣佈在其 eIQ AI和機器學習開發軟體新增兩款新工具,以便輕鬆地跨各種邊緣處理器在邊緣部署和運用人工智慧。 GenAIFlow為支援生成式AI解決方案的大型語言模型(Large Language Model;LLM)提供建構模組。此類生成式AI解決方案旨在與 恩智浦i.MX系列應用處理器MPU配合使用,透過在特定情境資料中訓練LLM,可以更輕鬆地在邊緣部署智慧應用。例如,配備LLM的電器經過用戶手冊訓練後,能夠用自然語言與使用者交流,告知用戶如何使用特定功能、執行特定任務或最佳化使用和維護。 產品重要性 在邊緣部署AI帶來眾多優勢,包括降低延遲、加強用戶隱私保護及減少能耗。恩智浦eIQ工具套件的擴展能顯著簡化並加速部署流程,幫助開發人員能夠存取更廣泛的模型類型,包括生成式AI、基於時間序列的模型、以及基於視覺的模型。此外,用戶能夠在各類邊緣處理器上部署模型。 恩智浦半導體資深副總裁暨工業與物聯網事業部總經理Charles Dachs表示:「AI是實現根據使用者需求預測和自動化的關鍵,但必須以適合邊緣部署的方式進行開發。恩智浦提供即用型(ready-to-use)工具,適用於MCX系列等MCU以及 i.MX RT700等跨界MCU的小型AI模型,以及在 i.MX 95應用處理器等功能更強大裝置運行的大型生成式AI模型,為開發人員提供豐富的選擇,涵蓋各類AI模型和支援AI的邊緣處理器,使邊緣AI真正適用於各行各業的應用開發人員。」 更多詳情 eIQTime Series Studio簡化並加速基於時間序列的AI模型的開發與部署,支援多種輸入訊號,包括電壓、電流、溫度、振動、壓力、聲音、飛行時間(time of flight;ToF)等,以及用於多模態感測器(multi-modal sensor)融合的訊號組合。借助自動機器學習功能,開發人員能夠從原始時間序列(time-sequential)資料中提取有意義的洞察,快速建立可以滿足效能、記憶體、快閃記憶體大小和準確性標準而客製化的AI模型。該工具提供完整的開發環境,包括資料管理、視覺化和分析、以及模型自動生成、最佳化、模擬和部署。介面簡潔直觀,軟體開發人員無需具備深厚的資料科學或AI專業知識,即可創建最佳化的異常檢測、分類和回歸資料庫。 恩智浦GenAI Flow讓生成式AI應用可以在邊緣裝置上運行。此軟體流程提供了最佳化LLM等生成模型的方法。GenAI Flow並提供檢索增強生成(RAG),能夠在不對模型或處理器供應商透露敏感資訊的情況下,運用特定領域(domain-specific)知識和私有資料以安全的方式微調模型。透過將多個模組連結至單一流程,客戶可根據其任務輕鬆定制LLM,並使用恩智浦i.MX 95應用處理器等MPU進行最佳化,以便在邊緣部署。 ##### 關於恩智浦半導體 恩智浦半導體(NASDAQ:NXPI)身為值得信賴的合作夥伴,持續針對汽車、工業與物聯網、行動裝置與通訊基礎設施市場,提供創新解決方案。秉持「攜手共創輝煌未來」企業理念,恩智浦致力創造領先業界的尖端技術並匯聚精英才智,開發系統解決方案,讓互聯世界變得更美好、更安全、更有保障。恩智浦在全球逾30個國家設有業務機構,2023年公司全年營業額達到132.8億美元。更多恩智浦相關訊息,請參閱官方網站: https://www.nxp.com/。 恩智浦、eIQ、恩智浦標誌是恩智浦公司的商標。所有其他產品或服務名稱均為其各自所有者的財產。保留所有權利。© 2024 NXP B.V
|