微软研究院 11 月 10 日公布的 Lazarus 给了个很不客气的前提:只要有 checkpoint 的写权限、有能跑得动模型的内存,就能在不需要训练的情况下给模型埋一个触发式后门——Nemotron-Terminal-8B 上改 7 个神经元,触发场景 98.8% 输出载荷,良性场景零触发,AIME 与 Terminal-Bench 分数几乎不变。这篇教程不讨论怎么攻击,只做一件事:在部署前给 checkpoint 加一道能落地的校验门。
第一步:把「基座」写成可核对的事实
先建一张最小台账,每个模型一行:基座名称、基座发布方、基座每个权重文件的 sha256、本版本的来源 URL、下载时间、下载人。这张表的用处是让「它到底基于什么」从一句口头声明变成一个能 diff 的对象。没有基座哈希,后面所有校验都无从谈起。
第二步:逐个文件比对,别只比总体积
量化版和合并版的文件划分常常和基座不同,所以比对应做在「张量名 → 形状 + 哈希」这一层,而不是文件名。做法是遍历 safetensors 的 header,读出每个张量名、dtype、shape 与数据偏移,算每个张量的哈希,再和台账里的基座清单求差集。差集为空说明文件级完全一致;有差异则进入第三步。
第三步:算一个粗但有效的差异指标
合法的微调会把权重改得「弥散」——很多层都动一点;而后门式改动往往是「少数几层动得很多」。所以不要只看差异总量,要看分布:按层统计相对变化的中位数与最大值,再看变化最大的前 10 个张量占总变化的比例。如果出现「极少数张量承担了绝大部分变化」的形状,就该人工看一眼,尤其是最后一个前馈层的 gate/up/down 三组权重。
第四步:把它做成一道门,而不是一份报告
校验结果如果只写成报告,就会出现「看了但没拦」的情况。最低要求是三条硬规则:基座哈希缺失 → 拒绝部署;张量差集非空且未登记为「有意修改」→ 拒绝部署;分布指标触发异常形状 → 转人工,不自动通过。把这三条挂在部署脚本的最前面,失败即退出,和本文站的部署脚本先跑内容编码检查是同一个道理。
第五步:三个必须测的场景
一、拿一个正常的量化版本跑一遍,确认它不会被误判成异常(误报比漏报更容易让人放弃这套门);二、手工改一个张量的几个数值,确认门能拦住;三、故意删掉台账里的基座哈希,确认是「拒绝」而不是「跳过」。第三个场景最容易被写错——很多校验逻辑在缺数据时会静默放行。
第六步:收到运行时
权重校验只解决「部署前」,运行时的收口还得靠权限:把 agent 的通网收到域名白名单、让高危动作必须人工确认、把 agent 生成代码放进用完即销毁的沙箱。校验门给出「这份权重没被明显动过」,权限设计给出「就算被动过,它能造成的破坏有上限」——两道一起上才算完整。