智东西
作者 云鹏
编辑 漠影

当前，随着AI技术与各类设备的加速融合，AI早已不再局限于云端，而正在向边缘和端侧加速落地。据SHD Group预测数据，到2030年，边缘AI SoC市场营收或达千亿美元规模。

从应用层面来看，边缘AI能带来时延、安全、能效、成本和稳定性等多方面优势，但也在技术和生态层面带来诸多挑战。

举例来说，智能摄像头正通过本地运行更复杂的计算机视觉算法，工业传感器也更多在本地处理更复杂的AI模型，这类设备的本地运行模式，确实能带来更低时延与成本；但随着设备侧数据量持续攀升，工作负载达到新量级，数据安全的重要性也被提升到了空前高度。

在这样的背景之下，物联网厂商迫切需要新的AI算力底座帮助他们进行快速创新和扩展，行业正呼唤技术层面更高效、生态层面更完善的新解法。

近年来，作为计算平台领域重要玩家之一的Arm，对AI的发展一直保持着敏锐嗅觉，其诸多重要策略均直指AI给各领域带来算力挑战。从数据中心、汽车、手机、PC到IoT，基于Arm生态的AI计算平台已经无处不在。

聚焦边缘AI领域，Arm于今年二月发布了全球首个专为物联网及边缘AI工作负载优化的Armv9边缘AI计算平台，推动物联网行业加速迈入AI时代。如今，该计算平台将正式通过Arm技术授权订阅模式中的Arm Flexible Access模式开放获取，为边缘AI产业发展进一步注入新动力。

一、底层架构创新下放，Arm新平台直指物联网AI融合痛点

纵观当前AI技术的发展，AI大模型“小型化”趋势突出，越来越多的优秀小模型开始拥有更为出色的AI性能；与此同时，Agent智能体浪潮涌起，Agent成为各类垂类专业模型的“大管家”，调度各类设备、统筹各类边缘和端侧数据，高效处理复杂的现实任务。

物联网设备的AI化已经成为一种必然，正如Arm所指出的，下一波AI计算创新浪潮将在边缘侧展开，在那些让智能更贴近数据产生源头的设备、接口与系统中蓬勃发展。

在这样的确定性之下，如何让物联网设备可以更好地在边缘侧落地AI，已成为十分迫切的问题。整体来看，Armv9在物联网领域的下放，提供了智能边缘设备大规模部署所需的高性能与高能效，其内置的安全机制还能兼顾数据安全，而架构本身的灵活性与可扩展性，更为后续发展预留了充足空间。

首先，AI时代最核心的是AI性能。Arm最新的边缘AI计算平台将性能拉满——通过集成增强的Armv9的Neon和SVE2向量处理技术，在ML性能方面，Cortex-A320相较于前代超高效CPU（Cortex-A35）提升了高达10倍的ML计算能力，标量性能提升了30%；相较于去年推出的基于Cortex-M85的平台，新平台的ML性能提高了8倍之多。目前新边缘AI计算平台已经可以支持参数量超10亿的端侧AI模型。

Arm物联网事业部硬件产品管理高级总监Lionel Belnet在与智东西等媒体的交流中提到，Arm在边缘AI的Armv9产品矩阵可从超高能效的Cortex-A320一路展开到最新发表的超高性能C1-Ultra，达到边缘AI全场景的覆盖。

能效方面，Arm架构本身以低功耗著称，而Armv9边缘AI计算平台中包含了Armv9架构的超高能效CPU——Arm Cortex-A320，它的能效比较Cortex-A520（Arm的高效Armv9.2 CPU）提升了50%，进一步降低了功耗。

需要指出的是，能效对应的是企业成本，这对物联网这种对功耗要求严苛的行业至关重要，这也是Arm架构在该领域广受欢迎的原因。

另外一个至关重要的点是安全性。为了应对大量数据在边缘侧的采集、计算带来的数据隐私安全的风险，Arm将Armv9的一系列先进安全技术下放到边缘AI市场，如指针验证（PAC）、分支目标识别（BTI）和内存标记扩展（MTE），给边缘侧的关键应用与数据安全提供了扎实的防护。

值得一提的是，在出色AI能力、高安全性的基础上，Armv9架构的高扩展性、灵活性同样给物联网厂商们带来了开发层面的极大便利。

此外，边缘AI普及面临的最主要障碍之一就是软件开发和部署的复杂性，这正是Armv9边缘AI计算平台软件生态系统发挥优势的关键所在。

今年初Arm将开源AI库Arm KleidiAI扩展到了物联网领域，迄今已与几乎所有主流物联网AI框架进行集成。简单来说，Arm KleidiAI可以让开发者无缝地利用到Armv9架构的先进功能和灵活性，简化边缘AI开发流程。

根据官方数据，在Llama.cpp上运行微软Tiny Stories数据集，KleidiAI的集成给新的Cortex-A320可以带来70%的性能提升，同时KleidiAI兼容Linux、Zephyr等操作系统，灵活性大幅提升。

可以说，从性能、能效、安全到开发生态，新的Armv9边缘AI计算平台给物联网拥抱AI提供了新解法，让物联网赛道的厂商和开发者们能够更快抓住AI新机遇，加速边缘AI的落地。

二、进一步降低技术落地门槛，Arm生态“朋友圈”加速扩容

做好了物联网边缘AI落地一揽子解决方案还不够，Arm还进一步降低先进技术获取门槛，直接将Armv9边缘AI计算平台，Cortex-A320与Ethos-U85，正式引入Arm技术授权订阅模式中的Arm Flexible Access方案之中。

直观来看，Arm从市场切入路径、成本结构、创新效率等方面给厂商带来价值，让技术更好地“落到实处”，让所有中小企业能更好获益，加速实现AI普惠。

凭借这一模式，Synaptics、树莓派、Weeteq、Hailo及SiMa.ai等合作伙伴已成功打造出具有开创性的边缘AI技术，在物联网诸多细分领域加速落地。

根据官方数据，目前基于Arm Flexible Access方案的合作伙伴已经实现超400次成功流片，活跃成员数量超过300家。在落地中国后，已有超过70家国内客户采用了该技术授权模式，进行产品创新开发。

结语：边缘AI风暴狂涌，Arm技术生态迸发巨大潜力

当前，边缘AI的发展，促使行业对硬件和软件异构性、顺畅开发和规模化安全性三方面的需求猛涨，边缘AI计算创新势在必行。

Armv9架构的诸多特性、出色的AI能力基础、完善的软件和生态支撑，都给行业各路玩家带来了新的可能性，新的Arm边缘AI计算平台无疑会成为新一轮物联网创新的催化剂。

展望未来，AI向边缘、端侧的转移已经成为行业确定趋势，边缘AI正在加快各种技术设备的数字化转型。在这一未来趋势下，Arm依靠硬核技术创新底色、灵活的技术获取模式以及深厚的开放软件生态系统，无疑展现出巨大潜力，成为物联网玩家在AI时代搏浪的坚实基座。