这个工具是做什么的
面向 agent 的开源推理引擎，把「针对你这台机器做优化」当成核心功能：它在本地编译并调优算子内核，让同一个开源模型跑起来比 llama.cpp 快最多约 2 倍。官方说 Apple Silicon、NVIDIA、AMD 都能跑，只有 CPU 也能跑；Rust 编写，Apache-2.0 许可。适合要在自有硬件上跑本地 agent、又不满足于通用推理引擎默认性能的团队。
基本信息
- 分类：开发者工具
- 厂商 / 团队：Magnitude
- 价格：免费（开源，Apache-2.0）
- 收录日期：2026-10-01
- 官网：github.com
适用场景
推理引擎 · 本地部署 · 内核编译 · 开源 · Agent