这个工具是做什么的

NVIDIA 发布并开源的本地推理路由器:发现同一局域网内兼容的 Windows/Linux/macOS 电脑作为节点,统一管理 Ollama、LM Studio 等推理引擎,向应用与 Agent 暴露 OpenAI/Ollama 兼容的代理端点,再把独立的推理请求路由到当前负载合适的节点——相当于把几台闲置电脑组织成一个私有推理集群,prompt 与响应默认不离开本地网络。桌面应用提供节点总览(含实时 GPU/显存占用)、引擎安装、模型拉取与集群配对(六位 PIN 邀请),支持 Windows/Linux/macOS 与 x64/arm64。需要说明边界:PAIR 只路由“完整请求”,不池化 GPU 显存、不把单个模型拆分到多机,适合多 Agent 并发这类本地负载,不适合想跑单一大模型的人。

基本信息

  • 分类:开发者工具
  • 厂商 / 团队:开源(NVIDIA,Apache-2.0)
  • 价格:免费(开源)
  • 收录日期:2026-09-08
  • 官网:github.com

适用场景

NVIDIA · PAIR · 本地推理 · Ollama · LM Studio · 私有AI集群 · 开源

官方入口

github.com ↗

同类工具