边端AI不只缺算力：安谋科技重做CPU、NPU、VPU与AI操作系统

7月18日，WAIC 2026期间，安谋科技在上海世博展览馆举行AI前瞻发布会。 与展馆中大量围绕超节点、万卡集群和云端大模型的讨论不同，这场发布会把重点放在了另一端：当AI进入嵌入式设备、摄像头、机器人、工业网关和边缘计算节点，有限功耗、有限内存和复杂负载将如何改变芯片与系统设计。 发布会涉及四条技术线：面向嵌入式设备的“星辰”CPU与Arm Helium指令集，面向边端推理的“周易”X3-Pro NPU架构，面向机器视觉的“玲珑”VPU，以及安谋科技牵头发起的开源AIOS联盟。 把这些内容放在一起看，安谋科技这次在 WAIC 上试图回答的是一个更具体的工程问题：在功耗、温度、内存带宽和软件生态都受到约束的情况下，如何让计算、视频和系统软件形成一套可以部署的本地AI基础设施。 端侧AI的矛盾，不只是模型太大 过去几年，端侧AI通常被理解为把云端模型缩小后放进终端。但这种理解忽略了两类计算环境之间的差异。 云端服务器通常可以通过增加GPU数量、显存容量和网络带宽扩展计算资源，而嵌入式设备首先受到电池、散热、芯片面积和成本限制。摄像头、门锁、可穿戴设备和工业控制器也很难为了运行一个模型，持续占用全部CPU资源。 与此同时，端侧任务又对实时性提出了更严格的要求。云端应用可以等待模型完成数秒推理，但语音唤醒、人脸检测、机器人避障和工业控制往往需要立即响应。大量视频、音频和传感器数据如果全部上传云端，也会带来网络依赖、带宽成本和数据管理问题。 这意味着，端侧AI面对的不是单纯的算力不足，而是性能、功耗、响应时间、带宽和可靠性之间的多重约束。 安谋科技CPU产品总监朱晓鸣在现场将端侧计算划分为三类需求：始终在线的低功耗感知、由CPU承担的逻辑控制，以及相对复杂的AI计算。在这种架构中，CPU仍然负责系统控制、实时任务和通用逻辑，向量计算单元和NPU则分别承接适合并行处理和矩阵计算的负载。其目标是让嵌入式设备在有限的功耗和算力下尽可能多的释放AI计算潜力。 CPU的变化：给传统嵌入式计算增加向量能力 在端侧AI系统中，CPU并不会因为NPU出现而消失。 模型运行前后的数据预处理、算子调度、设备控制、实时操作系统任务以及大量非矩阵计算，仍然需要CPU完成。对于规模较小的音频检测、传感器分析和简单视觉任务，直接在CPU上运行还可以减少不同处理器之间的数据搬运和调度开销。 安谋科技此次重点介绍了Arm Helium技术。Helium是面向Arm Cortex-M系列处理器的向量扩展，采用128位固定长度向量设计，并增加了一系列面向数字信号处理和机器学习的指令。其作用不是替代NPU，而是提高CPU处理并行数据的效率。 按照现场公布的测试结果，在蓝牙音频编解码场景中，以Cortex-M4为基准，采用相应架构的Cortex-M52、M55和M85分别获得约30%、50%和65%的性能提升；在部分机器学习测试中，M55和M85相较较早一代处理器平均提升约3倍，个别项目超过8倍。上述数字来自安谋科技现场演示，具体表现仍会受到模型、编译器、存储系统和芯片实现方式影响。 安谋科技自研的“星辰”CPU从第二代产品STAR-MC2开始支持Helium。此次现场展示的“星辰300”是一套原型验证平台，将STAR CPU与Arm Ethos NPU集成在FPGA平台中，用于运行人脸检测等端侧模型。 演示中，摄像头画面先由笔记本采集，再传输至验证平台，由CPU与Ethos-U55完成推理并在屏幕上显示检测结果。 这个平台目前更接近芯片设计与软件适配阶段的验证工具，其意义在于验证CPU、NPU、内存和软件工具链能否协同工作，而不是一款直接面向消费者的终端产品。 从工程角度看，CPU指令扩展适合解决规模较小、控制逻辑较多或者需要低延迟启动的任务；当模型进入实时视觉、较复杂的语音处理和语言模型场景后，专用NPU仍然是主要的计算补充。Arm Ethos系列目前覆盖约64 GOPS至4 TOPS的算力范围，主要面向对面积和功耗敏感的端侧设备。 真正决定这套组合能否落地的，也不只是CPU和NPU的理论性能。数据能否在不同计算单元之间高效流动、编译器能否把算子合理拆分、模型中不受支持的算子如何回退，以及内存容量是否足够，都会直接影响最终效率。 NPU不再只看峰值算力 如果说CPU部分解决的是轻量化AI如何进入传统嵌入式设备，那么“周易”X3-Pro讨论的则是更复杂的边端推理。 安谋科技将边端AI场景分为个人终端、视觉与空间智能、工业与能源边缘、边缘节点与本地AI盒子四类。这些场景对芯片的要求并不相同：手机和可穿戴设备关注续航与隐私；摄像头、机器人和汽车强调低延迟、多模态感知与可靠性；工业设备更重视任务确定性和长生命周期；边缘服务器则需要多路并发和长时间运行。 因此，一套固定规格的NPU很难同时在所有场景中获得较高效率。 安谋科技正在研发的“周易”X3-Pro没有简单沿用单一芯片覆盖所有市场的思路，而是提出统一软件架构、统一指令集和硬件接口，再根据不同负载配置差异化硬件。规划中的产品包括面向低功耗场景的Lite系列、中等算力产品以及面向复杂推理任务的子系统方案。 这套架构的核心逻辑可以概括为：上层软件尽量统一，底层硬件允许分化。 统一软件层可以减少模型适配、算子开发和部署工具的重复投入；硬件层则可以根据场景调整计算单元、Cluster数量、内存层次、数据精度和专用加速模块。安谋科技还提出在统一架构中兼容存算一体以及非冯·诺依曼计算方案，但目前披露的主要还是架构方向，尚没有公开具体产品的算力、功耗、制程和量产时间。 从技术路线看，X3-Pro反映出边端NPU设计评价标准正在发生变化。 过去厂商习惯用TOPS表示峰值算力，但对于Agent类负载，单一指标越来越难反映真实表现。持续感知、多轮交互、上下文记忆和工具调用会产生频繁的数据访问与任务切换。部分阶段是矩阵计算密集型，部分阶段则可能受内存带宽、CPU调度或者数据预处理限制。 因此，边端NPU需要同时考虑算力利用率、内存容量、算子覆盖、编程灵活性和任务并发。X3-Pro提出支持更多数据精度、混合精度计算、可配置内存层次和更灵活的Cluster组合，本质上是在提高架构对不同负载的适配能力。 不过，统一架构与场景化硬件之间本身也存在张力。硬件越专用，单位功耗下的效率通常越高，但软件迁移和模型兼容可能越困难；硬件越通用，模型适配更加灵活，却可能增加面积和功耗。X3-Pro最终能否解决这一矛盾，还需要等待具体芯片及软件工具链公布后验证。 当视频不再只给人看 发布会的第三条技术线来自“玲珑”VPU。 传统视频编码主要围绕人眼视觉质量进行优化。例如，在码率有限的情况下，编码器会尽量保留人眼更容易察觉的纹理和轮廓，并允许在不明显影响观看体验的区域损失部分信息。 但在机器人、自动驾驶、视频监控和工业视觉中，视频的主要使用者正在变成模型。人眼无法察觉的压缩损失，可能破坏目标边缘、运动轨迹或者细小特征，进而影响目标检测、动作识别和模型训练结果。 这使视频压缩的优化目标从“画面看起来是否清晰”，扩展到“压缩后是否仍然有利于机器完成任务”。 安谋科技今年初发布的“峨眉”VPU和计划于2027年初推出的“武当”VPU，均引