重新思考用户编码器：为场景自适应用户表征路由扩散状态
事件
现有基于大语言模型的用户编码器通常把异构行为日志序列化后，通过自回归预测压缩成静态表征。这种单向约束限制了双向信息流动，阻碍跨模态交互与多源信号的联合保留，导致学到的静态表征难以满足不同下游场景对证据的不同需求。针对这一问题，研究团队提出 FINDERS 框架，把扩散语言模型的迭代去噪过程作为多粒度重构空间，包含去噪、因子化、路由和压缩四个操作。可学习的元槽将互补的去噪状态组织为可迁移的跨模态语义和模态特定的行为因子。为提供有依据的监督，团队构建了包含显式行为理由的大规模语料 BehaviorQA。在场景查询引导下，轻量级路由器通过输入级残差通路动态强化相关槽方向，再进行跨源融合与最终压缩。在十个工业场景开展的大量实验和线上 A/B 测试显示，FINDERS 在统一设置与场景自适应设置下均持续优于当前最优方法。这项工作把扩散语言模型的应用边界从语言生成推进到用户表征学习，为个性化推荐与用户建模提供了新思路。
来源
本条目由采集管线自动抓取并发布，完整内容见下方来源链接。
*采集源：arXiv cs.AI*