因果世界模型何时能帮助模块化LLM智能体

事件

LLM智能体越来越多地通过模块化系统行动，例如订单、支付、库存和物流服务，其中一个模块的动作会改变另一个模块中哪些状态转移是有效的。标准世界模型通常拟合观测轨迹，但这并非干预时规划所需的量：一条轨迹可能显示支付先于发货，却无法识别支付是否授权了发货、库存是否中介了该效应，或是否存在隐藏触发因素同时解释两者。研究通过FedCausalCompose这一面向模块化LLM智能体的因果世界模型框架来考察这一缺口，其中局部动作提供跨模块接口的干预-响应证据。

研究首先证明，在后门路径未被阻断时，观测世界模型会产生不可约的干预误差；接口恢复会随干预-响应覆盖度提升而改善；当覆盖度和局部机制误差受控时，一个预言机式的因果组合可以优于非因果下界。随后在诊断性智能体环境中检验该预测：因果接口在结构化工具环境中帮助最大，因为API签名暴露了前置条件和下游效应；相反，对话和叙事环境往往忽略原始边列表，除非一个简短的注意力锚点使因果信息与决策相关。

这些结果明确了因果世界模型在LLM智能体中发挥作用的具体条件：当跨模块接口既在统计上可识别，又以智能体在行动时能够使用的形式呈现时，因果结构才会带来帮助。

来源

本条目由采集管线自动抓取并发布，完整内容见下方来源链接。

*采集源：arXiv cs.AI*