ECHOES:通过递归历史压缩与特权在线策略蒸馏超越当前图像
事件
长程GUI智能体需要依赖视觉历史维持任务状态,但保留历史截图会显著增加视觉token用量和推理成本,而改用文本摘要又可能丢失关键状态信息,影响长程可靠性。针对这一矛盾,研究团队提出ECHOES方法,利用训练阶段可获得的特权信息来指导文本历史压缩,从而增强长程推理能力。
ECHOES采用“压缩—思考—行动”(CTA)格式,递归更新文本历史状态并进行推理。同一个模型在获得多图特权输入时充当教师,对学生模型生成的CTA轨迹提供密集的token级在线策略蒸馏。其感知—记忆保真度差距引导的OPD-RL框架动态平衡特权蒸馏与任务奖励优化,并通过周期性更新教师模型支持持续改进。团队还构建了ECHOESBMK基准,从真实GUI智能体失败轨迹中提炼,用于联合评估视觉感知与跨模态状态保持能力。
在四个GUI基准和ECHOESBMK上的实验显示,该方法在任务性能和记忆保真度上均有明显提升。部署阶段不保留历史截图,ECHOES仍取得有竞争力的表现,并在性能与推理成本之间实现良好权衡,同时对未见过的视觉规划任务表现出正向零样本迁移能力。
来源
本条目由采集管线自动抓取并发布,完整内容见下方来源链接。
*采集源:arXiv cs.AI*