✕

AI咨询

每日早报 投融资 最新技术 行业应用 大模型进展

AI知识

AI工具库 AI智能体 AI编程 Hermes 使用 Codex 使用 Claude Code 学习路径 Prompt模板库

AI应用

最佳实践 企业落地 AI赚钱 OPC 一人公司 落地SOP AI成熟度诊断 咨询预约

其他

AI 问答 关于本站
首页 / 最新技术 / 正文

工具型智能体的可控遗忘:可逆上下文整理实践

事件

一项新研究提出「智能体可控遗忘」机制:执行任务的模型可以主动挑选此前观察到的工具返回结果,在每个结果的原始位置用一条简短备注替换,同时把完整原文存入可恢复的归档中。该方案通过一个 Python 工具框架实现批量归档与显式恢复,无需针对具体任务训练模型,并且用户指令和助手消息被保护,不会被纳入遗忘操作。

在 OpenTelemetry 调试加一项无关实现任务的探索性测试中,该方法结束时供应商报告的提示词 token 为 231,951,而保留全部历史时为 912,492;累计输入 token 减少 50%,估算 API 成本为 1.28 至 1.44 美元,对照约 4.38 美元。两组都通过了两个案例的主要行为检验,但都未完全满足后续评估;该方法发起的请求更多,耗时增加 17%。

另一组应用开发任务则没有带来上下文或成本节省,更早的一次续写实验在上下文减少的情况下人工评估质量反而下降。研究结论是:在噪声较大的工具使用轨迹中,可逆上下文管理能显著节省资源,但效果高度依赖工作负载类型,这是落地时必须考虑的核心因素。

来源

本条目由采集管线自动抓取并发布,完整内容见下方来源链接。

*采集源:arXiv cs.AI*

📎 原始来源:arXiv cs.AI
本站内容为摘要与观点整理,不全文转载原文;版权归原作者所有。
💬 对这篇还有疑问?

直接问 AI,回答带站内出处。

就这篇提问

相关内容