论文：模型能在权重里藏下任意能力，且可证明难以被诱发

arXiv 2610.13928（AI Models Can Provably Hide Arbitrary Capabilities，作者 Andis Draguns、Sumeet Ramesh Motwani、Raymond Douglas、Christian Schroeder de Witt，十月九日提交）针对能力评估的一个根本假设：隐藏的能力总能被诱导出来。作者证明，在对抗条件下这个假设不成立。他们构造了一种后门攻击：把加密后的神经网络嵌进宿主模型的权重里，只有在收到一个秘密触发器时才解密并执行。借助「数字锁柜（digital lockers）」，这些被藏起来的电路在密码学假设下可证明地难以被诱发、也难以被解释，即便你已经拿到全部模型权重——这把先前「能藏固定字符串」的工作扩展到了「能藏任意计算」。作者用 PyTorch 实现了概念验证，并尝试用微调、权重加噪、基于梯度的触发器搜索、潜在空间对抗训练等手段去诱发，来检验这套隐藏到底有多难挖。