恩智浦i.MX 95系列推动边缘AI创新

作者：爱集微 7小时前

来源：恩智浦 #恩智浦# #AI# #边缘计算#

1860

作者：Toby Foster

在本系列博文的第一部分，我探讨了恩智浦i.MX 95系列如何将新功能安全技术应用于工业环境、汽车领域及其他边缘应用。在接下来的文章中，我将进一步阐述i.MX 95系列如何赋能边缘计算，实现先进的AI功能。

近年来，AI创新呈指数级增长。其中，大量关注点集中在基于云的生成式AI应用(如ChatGPT)。然而，这些应用的运行成本高，并伴随高能耗问题。相比之下，边缘处理通过本地化存储数据和隐私信息，提供了一种快速、高效且安全的信息管理解决方案。恩智浦在边缘处理领域拥有深厚的积累，而全新i.MX 95系列更是将这一能力提升到了新的高度。

我们的i.MX 95应用处理器为边缘处理提供卓越性能、信息安全及更多关键特性。了解i.MX 95系列如何成为您下一个AI设计的理想选择。

i.MX 95系列具备强大的处理能力，适用于边缘处理的传统机器学习和生成式AI应用。该系列集成了恩智浦eIQ^® Neutron NPU以加速机器学习，同时结合Arm^® Mali GPU与恩智浦自主研发的图像信号处理器，驱动沉浸式3D图形。这一强大且可扩展的配置适用于从视频会议系统到工厂大型设备，为各类应用场景提供卓越的处理能力。

i.MX 95系列的结构框图包括SoC的功能及顶层规格

i.MX在AI应用中的优势

以下是适合使用i.MX 95 MPU的AI/ML应用：

视觉检查和异常检测：AI赋能的工厂设备可比人工更快、更准确地检查物品。

语音命令：智能设备能够识别大量词汇，解析多个扬声器同时播放的音频，并准确处理各种口音的语音。

人脸与发言者追踪：企业视频会议应用可追踪发言者，确保其始终处于画面焦点内，以提升参与体验。

背景噪声消除：智能设备可去除背景噪声并执行回声消除，以提升语音命令解析和用户体验。

人员监测：智能家居与智能办公安全系统可追踪人员、物品及宠物。车载人员监测功能还能审核驾驶员行为，识别注意力分散等风险。

患者监测：医疗设备可监测患者生命体征，并在必要时提醒医护人员。

家居与楼宇自动化：借助边缘AI，实现空调、家电、安防等设备的无缝互联与智能控制。

i.MX 95系列不仅具备卓越的处理性能，而且具有高能效，在同类产品中脱颖而出。eIQ^® Neutron NPU是一款强大且高效的AI推理引擎，在边缘处理场景中提供具有竞争力的TOPS/W性能。此外，我们的Energy Flex多域架构提供独立的处理域，适用于功能安全、低功耗和实时应用。这能够实现精细化动态功率控制和低功耗运行模式。即使SoC的大部分模块处于断电状态，处理器仍能保持稳定运行。

i.MX 95系列支持多种边缘AI应用，包括视觉检查和异常检测

边缘AI赋能机器视觉

i.MX 95 SOC集成神经处理单元(NPU)、图像信号处理器(ISP)和视频处理单元(VPU)，这些组件协同工作，提供卓越的边缘机器视觉能力。无论是家庭控制面板、入口视频监控，还是工厂自动化，恩智浦eIQ Neutron NPU均支持先进的视频处理技术。用户可在NPU上运行高级AI模型，实现场景分割、实时视频增强和去噪，确保高质量的视频画面。

i.MX 95系列还支持并行处理多路视频流，无需向云端发送信息。其内置ISP通过两个MIPI-CSI 4通道接口和MIPI虚拟通道，可支持多达8个原始摄像头传感器。此外，ISP还支持可同时捕获可见光和红外光的RGB-IR摄像头，从而在低光条件下提升图像质量，并优化人脸识别能力。

简化开发流程

为了帮助客户简化开发流程，我们的eIQ^® AI软件开发环境支持多个主流平台，包括：

TensorFlow和LiteRT(fka TensorFlow Lite)

Pytorch/Executorch

ONNX和ONNX RT

该平台还支持多种神经网络结构，包括CNN、MLP、RNN、LSTM、TCN和LLM/SLM。

为了进一步简化神经网络部署，我们的eIQ AI/ML开发软件集成了NVIDIA TAO Toolkit API，让开发人员能够轻松访问丰富的预训练和微调的AI模型，并将其部署在i.MX 95处理器上。

我们的eIQ AI软件环境为开发人员提供所需工具，以推动边缘AI创新