IBM Granite 团队 11 月 12 日发布两个实验预览模型:granite-4.1-3b-LLMON-preview 与 8b 版,Apache 2.0 协议上 Hugging Face 与 GitHub。它们读一种叫 LLMON 的标记语言——LLM Object Notation,官方建议读作「lemon」。要解决的问题很具体:教小模型忽略藏在上下文里的提示注入。

原理:给指令上户口

普通聊天模板把一整轮压成一串 token,系统提示、检索文档、工具返回之间没有语法边界——JSON 是给确定性解析器设计的,不是给 tokenizer 设计的,文档里的引号和括号跟结构字符共享同一批 token ID,注入指令因此有了可乘之机。LLMON 的做法是用六个保留单 token 分隔符把每个组件包成独立可寻址的块,每块带两字符 ID;每轮对话底部的执行块声明哪条指令运行、作用于哪些输入、输出指向哪里——没被绑定的内容一律当数据读、不当命令执行。

训练配方与数字

训练从 Granite 4.1 基础检查点开始(不是现成的 instruct 版):把 46 亿 token 的对话、RAG 与工具调用数据重排成 LLMON 格式,故意掺进从未被引用的干扰指令和数据块,让模型学会无视它们;再叠加 13 万条注入样本共 2.11 亿 token,流程是监督微调加五轮 GRPO 强化学习,最后用 1000 对模型自己对注入尝试的回复做偏好优化。论文(2610.38120)给的数字:间接注入基准上的攻击成功率从 53-100% 降到 0.02-5.6%;OPI 基准上比被测最强前沿模型多挡 47% 的攻击、比最强开源模型多 95%;通用能力与普通 Granite 4.1 Instruct 持平——安全收益没拿能力换。

这不是又一层外挂过滤器,是把操作系统的权限分离思想塞进了 tokenizer。

边界也要说清:IBM 自己标注这是实验预览、不能上生产;现有基准只测静态的一次性注入,多轮自适应攻击还在研究中;而且保护生效的前提是整条流水线真的按 LLMON 格式渲染内容。开发者不用手写标记——调用标准 apply_chat_template 传结构化字段即可,GitHub 仓库提供 JSON 无损转换器。如果你的 agent 天天读网页、收邮件、调工具,这套思路值得花一小时读透。