小模型更会提问:为检索增强生成微调查询澄清能力
事件
IBM 研究团队发布 ClariEdge 数据集,专门面向检索增强生成(RAG)系统中的查询澄清任务。该数据集约含 3900 个样本,覆盖多轮对话中用户提问表述不清、上下文歧义,以及提问本身通顺但与检索文档对照后存在多种合理解读的情况,同时包含不需要澄清的负例。
研究显示,经过微调的轻量 LoRA 模型在是否需要澄清的分类任务上达到 96.6% 的准确率,并在澄清请求生成质量上优于多个更大模型的提示基线。团队特别指出,难负例是区分真正歧义与表面歧义(即可从上下文消解)查询的关键要素。该 LoRA 在检索前和检索后两种场景下均表现良好,因此可在 RAG 流程中作为答案生成前的双重检查点使用。
这一结果说明,在查询澄清这类边界明确的任务上,小模型配合高质量数据和微调即可取得优于大模型提示方案的效果,有助于降低 RAG 系统的部署成本并提升多轮问答的可靠性。ClariEdge 数据集已在 Hugging Face 上公开。
来源
本条目由采集管线自动抓取并发布,完整内容见下方来源链接。
*采集源:arXiv cs.AI*