ClawLoop:基于原生训练循环的自我改进智能体
事件
大语言模型智能体正越来越多地在沙箱工作区中运行,直接操作文件系统和命令行。但针对这类「工具环境型」智能体的后训练流程仍然稀少,且大多是一次性的、依赖外部教师模型:由更强的模型合成任务并收集轨迹,目标智能体只训练一次,评估结果只供人类研究者参考,并不回流到训练循环中。这种模式受限于外部模型的能力和人类先验的范围,无法实现自我改进。
为此,研究者提出 ClawLoop 框架,无需任何外部教师模型,也几乎不依赖先验知识。它把三个阶段组成一个自我维持的循环:任务合成阶段通过两种互补的构建方式生成多样化训练任务,并施加诊断条件化的难度增长,再经过无智能体和有智能体两种验证;训练阶段通过监督微调或强化学习更新智能体;诊断与反馈阶段分析智能体的 rollout 行为,生成能力分析报告,作为下一轮任务合成的反馈。
以 Qwen3.6-27B 作为循环模型,ClawLoop 在 SkillsBench、Claw-Eval-Live 和 ClawGym-Bench 上均取得稳定提升。迭代精炼后的任务还能迁移到更小规模的 Qwen3.5-4B 和 9B 模型,在所有基准上同样带来增益,说明数据质量可以独立于循环模型本身。
来源
本条目由采集管线自动抓取并发布,完整内容见下方来源链接。
*采集源:arXiv cs.AI*