让 agent 自我改进时别把测试题背下来:Google 的 RRSI 用「正则化」管住进化
agent 的 harness(提示词、控制流、工具、记忆、上下文管理)现在可以被自动改进:让系统反复提出并挑选组件级改动,就形成了 agent 系统层面的「递归自我改进」。问题也随之而来——这类进化容易背题:在训练用的任务上分数大涨,换到没见过的基准上就掉回去。Google Cloud AI Research 联合斯坦福、圣路易斯华盛顿大学与 UNC 的 RRSI 给出两条约束:提案端用随时间收紧的预算,限制一次能打包多少改动,并鼓励走没探过的路径;选择端加一个评审和一个修剪器,评审筛掉只对特定基准有效的提案,修剪器删掉太小、太贵或已经没用的改动。在覆盖编程、agent 办公与工程设计三类任务的八个基准上,RRSI 在进化用的那份上最多涨 14.1 分,在五个没见过的基准上最多涨 4.7 分,运行时比不做正则化的版本少用约 30% 的 token,且没有一个留出基准低于基线。