这款模型是什么

LLaDA2.2-mini 是蚂蚁 InclusionAI 团队 LLaDA2.2 系列的轻量版本,基于 LLaDA2.0-mini 架构开发。它继承了系列的两项核心创新:Levenshtein Editing 为扩散解码引入 DELETE 与 INSERT 控制 token,让模型能删除冗余、插入修正内容;128K 上下文中用 Block Routing 在扩散块层级限制 MoE 专家激活,兼顾长上下文 Agent 任务与推理成本。

规格上,模型总参数 16B,推理时仅激活 1.4B,属于“小显存也能跑”的扩散语言模型;许可为 Apache-2.0,代码与权重都已开放。

官方数据

  • Agentic 平均 59.0:τ²-Bench 57.50、Claw-Eval 57.16、PinchBench 62.33
  • 长上下文 LongBench v2 得分 34.99,明显高于 LLaDA2.0-mini(15.51)与 2.1-mini(12.13)
  • 通用平均 46.47,其中 BFCL v4 函数调用 47.68

需要说明的是,LLaDA 属于扩散语言模型(dLLM),生成方式是“去噪填空”而非自回归逐 token 预测,接口与生态和主流自回归模型略有差异;官方推荐采样参数为 block_length=32、temperature=0。同系列还有面向更强能力的 100B 版本 LLaDA2.2-flash,国内用户可经 ModelScope 访问。

扩散语言模型补上了“改写”能力,Agent 的长对话不再只能从头续写。