|推动边缘端机器学习,NXP Glow神经网络编译器问市( 二 )


恩智浦对Glow的支持离不开Cadence为Tensilica HiFi 4 DSP提供的神经网络库(NNLib) , 该DSP提供了4.8GMAC性能 。 同样以CIFAR-10为例 , 恩智浦的Glow实施使用这一DSP来加快神经网络运算 , 实现了25倍的性能提升 。
Cadence Tensilica IP企业副总裁Sanjive Agarwala表示:“Tensilica HiFi 4 DSP最初集成在i.MX RT600跨界MCU中 , 目的是提高各种不同的音频和语音处理应用的速度 。 但是 , 当有越来越多机器学习推理应用瞄准了低成本、低功耗的MCU级应用时 , HiFi 4 DSP凭借固有的DSP计算性能 , 成为加快这些神经网络模型的理想选择 。 随着恩智浦在eIQ机器学习软件中实施Glow , i.MX RT600 MCU的客户能够利用该DSP来满足多种机器学习应用的需求 , 包括关键词检索(KWS)、语音识别、降噪和异常检测 。 ”
Arm公司机器学习营销副总裁Dennis Laudick表示:“恩智浦将Arm CMSIS-NN软件库包括在elQ中 , 目的是最大程度地提升性能 , 减少Arm Cortex-M内核上的神经网络存储器占用 。 以CIFAR-10神经网络模型为例 , 恩智浦能够利用CMSIS-NN实现1.8倍的性能提升 。 其他神经网络模型应该能够产生相似的结果 , 这清晰地展示了这款高级编译器和我们的优化神经网络算子库的优势 。 ”
上市时间
恩智浦的集成Glow神经网络编译器的eIQ软件现已上市 , 通过i.MX RT600跨界MCU、i.MX RT1050和i.MX RT1060跨界MCU的MCUXpresso SDK提供 。 未来将会推出适用于恩智浦其他MCU的集成Glow神经网络编译器的eIQ软件 。


推荐阅读