它想解决什么

Arm 开发者关系副总裁 Shantu Roy 在媒体沟通会上说,目标是降低在 Arm 平台上开发与部署 AI 应用的门槛——「主要目标是加快开发者的工作流程,减少其研究不同模型及目标部署平台所需的时间」。相关资源已通过 Hugging Face 与 developer.arm.com 提供,后续也会登陆魔搭社区 ModelScope。

为什么需要这样一个入口

云上大模型时代,硬件差异被云服务商与模型厂商挡在了后面;当应用向边缘与物理世界延伸,硬件约束重新浮出水面:语音应用要在手机上实时跑,视觉模型要装进树莓派或工业设备,企业的应用既调云端大模型也要在本地处理隐私数据。Shantu Roy 直接反驳了「一个模型打遍云到端」的想法——不同任务需要不同模型,开发者得判断哪个模型适合部署在哪个位置。

首批能力与实测数字

  • 工作负载:语言、语音、视觉、神经图形
  • 预优化模型:阿里巴巴通义千问、Google Gemma、Ultralytics YOLO
  • 支持运行时:ExecuTorch、LiteRT、ONNX Runtime
  • 生态伙伴:阿里巴巴、树莓派、Ultralytics

Arm 给出的数字比定位更有说服力:Qwen3-TTS 在 vivo X300 上借助第二代可伸缩矩阵扩展(SME2)实现超过 4 倍加速;Ultralytics YOLO26 在同样平台上以单线程 FP16 相比 FP32 提升超过 40%;树莓派 5 上依托 NEON 与 FP16/INT8 混合量化,相比 FP32 同样提升超过 40%。

与 KleidiAI 的分工

KleidiAI 解决的是「怎么把某类计算跑得更好」——调用 CPU 里的特定能力,比如矩阵计算;AI Portal 解决的是「选什么模型、在哪个平台跑、怎么部署和优化」。过去 Arm 更多被理解为芯片架构提供方,而在 AI 时代,模型能否高效运行取决于编译器、运行时、库、量化工具、性能数据与文档是否完整——把分散资源重新组织成一个入口,是这次发布真正的意图。

端侧 AI 不是把模型拷进设备就算完成——量化、算子适配与硬件特性调用才决定最终体验。