这个工具是做什么的
Laya 解决的是 agent 里被浪费的一层：分类、路由、打分、审核这类判断根本不需要生成文本，用通用大模型跑既慢又贵，还得解析输出。它给一个状态（文本、邮件、工单、JSON）加一组带类型的问句（choice 选一个、score 打分、noul 是否），单次前向 33 毫秒返回带校准概率的答案，模型不生成任何文本，因此没有解析错误也没有幻觉。三个检查点覆盖英语与 100 多种语言，内置 Router 按请求挑；权重 Apache 2.0、可自托管、PyPI 装完即用。适合要把工单分类、意图路由、内容审核这类高频判断从生成式模型中迁出来的团队。
基本信息
- 分类：AI Agent
- 厂商 / 团队：NandhaKishorM（开源，Apache-2.0）
- 价格：免费（开源，Apache-2.0）
- 收录日期：2026-09-24
- 官网：github.com
适用场景
决策模型 · System 1 · 意图路由 · 概率校准 · 多语言 · Apache 2.0