处理器|打破x86/ARM垄断:第三大CPU架构RISC-V的春天来了

市场和资本对AI的态度回归理性之时,AI领导者们之间的较量也变得愈加激烈 。
一个很明确的信号是,目前全球最权威的AI基准测试(Benchmark)之一MLPerf,其基准测试成绩正在被你追我赶的AI领导者们不断刷新 。
作为现有的50多家MLPerf基准测试联盟成员之一,阿里巴巴此前已经在MLPerf数据中心基准测试中斩获多项第一 。
在本月最新发布的MLPerf Tiny v0.7榜单中,基于平头哥玄铁RISC-V C906处理器的软硬件联合优化方案,取得了全部4个指标的第一 。
RISC-V国际基金会CEO Calista Redmond对此表示:“物联网(IoT)领域的AI技术竞争激烈,不同层面的定向优化对于以极低功耗取得新突破至关重要 。阿里此次的工作证明了其在RISC-V产业的领导者地位,也给全球RISC-V社区和生态的发展提供了信心 。”
已经在MCU市场攻城略地,给Arm带来不小压力的RISC-V处理器,在阿里平头哥玄铁的进一步推动下,很大程度证明了RISC-V在IoT市场的发展潜力,RISC-V在IoT领域的优势不容忽视 。
从整个RISC-V发展的层面来看,相对年轻的RISC-V仍然有很多挑战和需要提升的地方,但随着英特尔、苹果、谷歌等业界有影响力的公司在RISC-V领域迈出的关键一步,加上阿里巴巴、西部数据在RISC-V生态建中取得的成果,RISC-V站在生态繁荣的前夜,即将迎来春天,RISC-V处理器应用市场将从优势确立的AIoT,进一步拓展至汽车、工业等领域 。
平头哥玄铁斩获四项第一的秘密——系统级优化
MLPerf在AI火热的2018年12月首次发布基准测试,随后迅速得到了各大公司、科研机构和高校支持和参与 。此后,MLPerf基准测试不断完善,基准测试也从最初的AI训练,拓展至数据中心、边缘、智能手机和IoT的AI推理基准测试,参与者越来越多,竞争也越来越激烈 。
MLPerf Tiny 是最新的基准测试榜单,聚焦低功耗、高性价比的IoT场景,2021年6月首次发布V0.5基准测试结果,本月最新的MLPerf Tiny V0.7榜单出炉 。
MLPerf Tiny V0.7的榜单中,CPU的架构涵盖了Arm、RISC-V架构和自研架构,平头哥霸榜足以说明RISC-V架构CPU的AI能效比优势 。
最终的成绩显示,阿里自研RISC-V玄铁C906处理器的软件硬件联合优化性能结果,在不使用加速器的情况下,满足精度要求的同时,全部4个基准测试(唤醒、图像分类、语音唤醒及异常监测)的性能数据均位列第一,刷新了MLPerf Tiny Open的全部4个基准测试记录 。
【处理器|打破x86/ARM垄断:第三大CPU架构RISC-V的春天来了】雷峰网(公众号:雷峰网)注意到,在MLPerf Tiny V0.7的四个测试中,阿里平头哥玄铁的成绩比其它提交者的性能至少高10倍 。也就是说,相比其他提交者,平头哥玄铁的性能有一个数量级的优势 。
能够实现如此显著的优势可以概括为——软硬一体创新 。
处理器|打破x86/ARM垄断:第三大CPU架构RISC-V的春天来了
文章图片

MLPerf Tiny V0.7性能数据对比
平头哥副总裁孟建熠对雷峰网表示,“我们能够刷新MLPerf Tiny榜单,是因为平头哥联合了阿里云、达摩院等多个部门,进行了从最底层硬件到编译再到上层算法的软硬件协同创新 。”
最底层的硬件,玄铁C906是业界最早量产的向量扩展RISC-V指令集处理器,也是一款64位高能效处理器,标配内存管理单元 。针对AI处理的特点,C906在数据预取上做了优化,采用多通道多模式的数据预取技术,可大幅提升数据访问带宽 。
编译层面,平头哥进一步优化神经网络模型部署工具集HHB及加速库CSI-NN2,二者配合,能简单快速的将原始单精度浮点模型量化为开发板上性能最优的数据类型 。
同时,CSI-NN2 在实现神经网络算子时,充分考虑到玄铁C906的硬件特性(包括流水线、高速缓存等),充分挖掘了FP16 数据格式在算法中的并行能力,发挥出玄铁硬件的高能效优势 。
处理器|打破x86/ARM垄断:第三大CPU架构RISC-V的春天来了
文章图片

在离开发者更近的算法层面,借助阿里云震旦异构加速平台利用架构感知的模型优化工具SinianML,通过压缩、网络结构搜索、蒸馏、弹性伸缩等优化,使AI推理实现了计算效率的大幅提升 。同时,结合达摩院在语音和视觉AI算法方面的领域知识,在具体任务上通过算法优化实现加速 。
“在MLPerf Tiny榜单中取得4项第一,证明了RISC-V在性能及能效方面非常优异的潜力,也体现出了RISC-V在高能效AI处理中非常有价值 。”孟建熠说:“RISC-V架构更灵活,更能满足AIoT时代定制化需求 。”


推荐阅读