在线咨询
eetop公众号 创芯大讲堂 创芯人才网
切换到宽版

EETOP 创芯网论坛 (原名:电子顶级开发网)

手机号码,快捷登录

手机号码,快捷登录

找回密码

  登录   注册  

快捷导航
搜帖子
查看: 1870|回复: 1

[原创] AI推理性能最高可提高50倍,支持自定义指令集!Arm推出最新Cortex和Ethos处理器

[复制链接]
发表于 2020-2-11 09:15:24 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?注册

x
近期,arm通过推出两个新IP(Cortex-M55和Ethos-U55)来扩展其与AI相关的产品。

2.jpg

Cotex-M55

Cortex-M55 cpu 带来了Arm在过去一年中宣布的许多新功能。第一个新功能是支持自定义指令。Arm首先在2019 Techcon上宣布了自定义说明,然后将其与Cortex-M33一起推出了。此功能遵循SiFive和Andes等公司基于risc-v的IP内核提供的类似功能。目的是有利地将紧密的指令序列折叠成在大量执行的内核中的单个指令,以节省功耗和可能的吞吐量。
除了自定义说明之外,Arm还把Cortex-M55称为“最具AI功能的Cortex-M处理器”,这是因为它是第一个实现Helium功能的处理器。Helium也称为M-Profile Vector Extension (MVE),是Armv8.1-M体系结构的扩展,它引入了新的SIMD 128位矢量操作,旨在增强dsp和ML应用和性能。它更多地依赖于现有寄存器,而不是像NEON这样的矢量寄存器,并引入了对诸如lane预测、loop预测和复杂操作(如scatter-gather)的新支持。更重要的是,它通过执行较小的数据块(32位)来做到这一点,以使IP的硅面积保持最小。对于机器学习,Helium提供了诸如VMLAV水平向量乘累加指令之类的指令。

39962652e5e44bc4bb2b51aa6961acb9.jpeg

Ethos-U55

与Cortex-M55一同推出了Ethos-U55,这是Ethos家族的扩展。Ethos-U55 是专用的 microNPU 推理加速器,可与 Cortex-M 系列 CPU 结合使用,带来专门面向于 NPU 的性能与能效提升。Ethos-U55与Ethos-N系列略有不同,因为它专门针对Cortex-M CPU。首先,与Ethos-N不同的是,Ethos-U是可以放入SoC CCN-500网络的独立IP块,它被设计成与一个配套的Cortex-M CPU紧密工作,并利用它的处理能力。由于Helium扩展,Cortex-M55特别适合与U55一起使用,但是它可以与较旧的Cortex-M处理器一起使用,比如M7、M4和M33。

b72e303b5c834c8cb2a86dac43498e56.jpeg

性能对比

Arm声称,对于典型的语音助手类型的工作负载,由于Helium的扩展,Cortex-M55的推理性能最高可提高6倍,功耗效率可提高7倍。与Ethos-U55结合使用时,Arm声称此改进,性能分别提高了50倍和25倍。这些比较是针对Cortex-M7进行的。值得指出的是,值得指出的是,为了获得这种性能提升,代码必须重新编译,以充分利用新的M-Profile向量扩展,以及Ethos MAC引擎的处理能力。

8196a9fe10aa43e5bd8af17357c873a7.png

发表于 2022-12-7 12:32:39 | 显示全部楼层
ethos-n7x 很强悍
您需要登录后才可以回帖 登录 | 注册

本版积分规则

关闭

站长推荐 上一条 /3 下一条

小黑屋| 关于我们| 联系我们| 在线咨询| 隐私声明| EETOP 创芯网
( 京ICP备:10050787号 京公网安备:11010502037710 )

GMT+8, 2024-4-18 17:50 , Processed in 0.018284 second(s), 7 queries , Gzip On, Redis On.

eetop公众号 创芯大讲堂 创芯人才网
快速回复 返回顶部 返回列表