AI 工具 · 本地部署
Hugging Face / ggml-org
2026-10-26
Llama Windows（把 llama.cpp 放进 Windows 11 托盘：一键下模型，本地 OpenAI 兼容接口）
Llama Windows 是 Hugging Face 与 llama.cpp 团队做的 Windows 11 托盘应用，10 月 13 日发布，基于 WinUI 3。它把模型下载、llama.cpp 安装和本地服务启动都收进一个图标：从 Hugging Face Hub 选推荐量化模型，一键下载；没有装 llama.cpp 时自动装，不需要管理员权限。模型加载后在 localhost:9931 起一个 OpenAI 兼容接口，自己的脚本、应用和编码 agent 都能直接调用，模型缓存与 Hugging Face 其他工具共用。原生支持 Windows on Arm 和 NVIDIA RTX Spark；v0.13.0 加了自动推测解码、模型目录导入和显存适配判断。
本地模型llama.cppWindows开源OpenAI 兼容
这个工具是做什么的
Llama Windows 是 Hugging Face 与 llama.cpp 团队做的 Windows 11 托盘应用，10 月 13 日发布，基于 WinUI 3。它把模型下载、llama.cpp 安装和本地服务启动都收进一个图标：从 Hugging Face Hub 选推荐量化模型，一键下载；没有装 llama.cpp 时自动装，不需要管理员权限。模型加载后在 localhost:9931 起一个 OpenAI 兼容接口，自己的脚本、应用和编码 agent 都能直接调用，模型缓存与 Hugging Face 其他工具共用。原生支持 Windows on Arm 和 NVIDIA RTX Spark；v0.13.0 加了自动推测解码、模型目录导入和显存适配判断。
基本信息
- 分类：本地部署
- 厂商 / 团队：Hugging Face / ggml-org
- 价格：免费（开源）
- 收录日期：2026-10-26
- 官网：llama.app
适用场景
本地模型 · llama.cpp · Windows · 开源 · OpenAI 兼容
官方入口
llama.app ↗
同类工具