工具型智能体的可控遗忘:可逆上下文整理实践
事件
一项新研究提出「智能体可控遗忘」机制:执行任务的模型可以主动挑选此前观察到的工具返回结果,在每个结果的原始位置用一条简短备注替换,同时把完整原文存入可恢复的归档中。该方案通过一个 Python 工具框架实现批量归档与显式恢复,无需针对具体任务训练模型,并且用户指令和助手消息被保护,不会被纳入遗忘操作。
在 OpenTelemetry 调试加一项无关实现任务的探索性测试中,该方法结束时供应商报告的提示词 token 为 231,951,而保留全部历史时为 912,492;累计输入 token 减少 50%,估算 API 成本为 1.28 至 1.44 美元,对照约 4.38 美元。两组都通过了两个案例的主要行为检验,但都未完全满足后续评估;该方法发起的请求更多,耗时增加 17%。
另一组应用开发任务则没有带来上下文或成本节省,更早的一次续写实验在上下文减少的情况下人工评估质量反而下降。研究结论是:在噪声较大的工具使用轨迹中,可逆上下文管理能显著节省资源,但效果高度依赖工作负载类型,这是落地时必须考虑的核心因素。
来源
本条目由采集管线自动抓取并发布,完整内容见下方来源链接。
*采集源:arXiv cs.AI*