长时程语言智能体中的重尾记忆痕迹
事件
长时程语言智能体越来越依赖外部记忆作为冻结的世界模型，但现有记忆系统通常只用任务成功率或token成本来评判。研究者提出，被忽略的关键是记忆使用的形状：在有限上下文和反复检索下，智能体记忆会集中在少量核心状态上，而把稀有状态留在长尾中，导致预测误差不断累积。
通过保守的尾部审计，研究发现这种集中现象可复现但依赖策略。随机游走智能体产生符合对数正态的检索痕迹，而语义大模型策略则给出最强的截断幂律式核心—尾部痕迹。基于此，作者提出核心—尾部世界模型（CTWM），一种基于秩的记忆控制器，用单一指数τ分配提示预算，同时保留摘要化的尾部。
在合成图世界任务中，CTWM保持完整状态与转移覆盖，提示token减少5.9%，下半尾部预测误差比图记忆基线降低13.6%。在ALFWorld上配对比较得到一致的token节省，在LongMemEval上token减少24.48%且总体准确率持平。这表明重尾记忆痕迹不仅是有限检索的诊断指标，也可作为token高效智能体世界模型的实用控制信号。
来源
本条目由采集管线自动抓取并发布，完整内容见下方来源链接。
*采集源：arXiv cs.AI*