它想解决什么
Arm 开发者关系副总裁 Shantu Roy 在媒体沟通会上说,目标是降低在 Arm 平台上开发与部署 AI 应用的门槛——「主要目标是加快开发者的工作流程,减少其研究不同模型及目标部署平台所需的时间」。相关资源已通过 Hugging Face 与 developer.arm.com 提供,后续也会登陆魔搭社区 ModelScope。
为什么需要这样一个入口
云上大模型时代,硬件差异被云服务商与模型厂商挡在了后面;当应用向边缘与物理世界延伸,硬件约束重新浮出水面:语音应用要在手机上实时跑,视觉模型要装进树莓派或工业设备,企业的应用既调云端大模型也要在本地处理隐私数据。Shantu Roy 直接反驳了「一个模型打遍云到端」的想法——不同任务需要不同模型,开发者得判断哪个模型适合部署在哪个位置。
首批能力与实测数字
- 工作负载:语言、语音、视觉、神经图形
- 预优化模型:阿里巴巴通义千问、Google Gemma、Ultralytics YOLO
- 支持运行时:ExecuTorch、LiteRT、ONNX Runtime
- 生态伙伴:阿里巴巴、树莓派、Ultralytics
Arm 给出的数字比定位更有说服力:Qwen3-TTS 在 vivo X300 上借助第二代可伸缩矩阵扩展(SME2)实现超过 4 倍加速;Ultralytics YOLO26 在同样平台上以单线程 FP16 相比 FP32 提升超过 40%;树莓派 5 上依托 NEON 与 FP16/INT8 混合量化,相比 FP32 同样提升超过 40%。
与 KleidiAI 的分工
KleidiAI 解决的是「怎么把某类计算跑得更好」——调用 CPU 里的特定能力,比如矩阵计算;AI Portal 解决的是「选什么模型、在哪个平台跑、怎么部署和优化」。过去 Arm 更多被理解为芯片架构提供方,而在 AI 时代,模型能否高效运行取决于编译器、运行时、库、量化工具、性能数据与文档是否完整——把分散资源重新组织成一个入口,是这次发布真正的意图。
端侧 AI 不是把模型拷进设备就算完成——量化、算子适配与硬件特性调用才决定最终体验。