据国外媒体报道,半导体和软件设计公司Arm的边缘AI硬件市场翻了一番,预计到2023年其市场估值将达到11.5亿美元。为此,Arm持续在边缘AI硬件领域发力,并宣布即将推出的两款具有AI功能的新型处理器-Arm Cortex-M55和Ethos-U55。这两款产品采用了新型的神经处理单元(NPU),专为物联网(IOT)终端设备上网而设计,并配了的软件库、工具链和模型。该公司声称,这两个芯片预计将在2021年年初上市 ,共同在特定的声音和视觉场景领域提供高达480倍的机器学习能力。
该公司在新闻稿件中提到,在低功率端点设备上进行机器学习处理对于实现AI在物联网中的全部潜力至关重要,因此要实现创新和规模化,需要扩展的高级硬件功能
Cortex-M55是Arm的Cortex-M处理器产品组合的最新成员,该产品组合具有成本优化和高能效的微控制器,与以前的Cortex-M以及前几代产品相比,其自身的AI性能提升了15倍。自定义说明和配置选项与Ethos-U55一样,可用Corstone-300的参考设计,该参考设计附带了许多安全子系统和用于构建安全嵌入式系统的工具包。
与之前的产品相比,Cortex-M55是第一个基于Arm的片上系统,这是Armv8.1-M架构的扩展,该架构针对低功耗硅进行了优化,并增加了150多个新的标量和矢量指令,可以有效地计算8位、16位和32位定点数据,其中的后两个在诸如音频处理之类的传统信号处理应用中被广泛使用。对于8位定点格式,它在机器学习处理(例如神经网络计算和图像处理)中很常见,补充了浮点数据类型,包括单精度浮点数(32位)和半精度浮点数(16位) 。
Arm表示,使用Cortex-M55可将数字信号处理性能提高多达5倍,将机器学习性能提高15倍。此外,它还允许高级内存接口提供对机器学习数据的快速访问,并内置于Arm的TrustZone系统范围内的嵌入式安全技术。
Ethos-U55 旨在与Cortex-M处理器(例如Cortex-M55,Cortex-M33,Cortex-M7或Cortex-M4)配对使用-包含32至256个可配置计算单元,与Cortex-M55相比最多可实现32倍的机器学习性能提升。Arm声称,Corthos-M55与Cortex-M7相比,在推理速度上可快50倍,在语音活动检测、噪声消除、两路麦克风等任务中,能效最高可提高25倍,并且具备波束赋形、回声消除、均衡、混合、关键词识别和自动语音识别等特性。
在软件方面,Ethos-U55和Cortex-M55都受益于统一的软件开发流程,该流程将嵌入式代码,数字信号处理器代码和AI模型代码折叠为一个。重要的是,它可以与流行的机器学习框架(例如Google的TensorFlow和Facebook的PyTorch)以及Arm自己的解决方案很好地配合使用。
本文由 探界网 作者:行者 发表,转载请注明来源!