不再逐个生成 Token：扩散模型参数规模迈向 35B，开始挑战 Agent 编程

事件

扩散语言模型正在从研究走向大参数量落地：最新进展把规模推到 35B 参数。它不再像传统自回归模型那样一个 token 接一个 token 地顺序输出，而是先铺开整段带噪文本，再通过多轮去噪并行确定内容，单次前向即可同时锁定多个位置。

并行生成带来的直接好处是解码步数明显减少，理论上同等延迟下能产出更长文本；难点在于去噪过程难以严格保证自回归依赖，长序列一致性和工具调用所需的精确格式仍需额外约束。团队把评测重点放在 Agent 编程这类对上下文连贯、代码可执行性要求高的任务上，考察模型在多轮工具调用中能否保持代码正确。

如果 35B 量级的扩散模型能在编程智能体任务上追平同规模自回归模型，推理成本曲线就会出现新的选项：同样算力下更高吞吐、更低单次生成延迟，对需要频繁调用模型写代码、跑测试的工程流水线尤其有吸引力。仍待观察的是长上下文稳定性与工具链生态的支持程度。

来源

本条目由采集管线自动抓取并发布，完整内容见下方来源链接。

*采集源：InfoQ 中文*