AI·rete·RAG:用Rete规则引擎做决策,RAG解释原因
事件
开发者发布了一个名为AI·rete·RAG的工具,旨在解决团队让大语言模型负责贷款、欺诈检测、临床分诊等需要可审计决策的问题。它采用串联架构:先由纯Python实现的Rete规则引擎根据YAML规则和事实进行推理,裁决完全来自规则引擎,相同事实永远得到相同结果,并支持基于显著性的冲突消解;随后RAG从用户自己的政策文档中检索相关段落,由LLM用通俗英语解释已经做出的决策并引用这些段落,但无法改变裁决。
该工具在几个方面超出预期:规则以图结构组织,支持嵌套的all/any/not以及前向链式推理,决策轨迹可展示因果链;审计模式记录每条被评估的规则(包括未触发的),逐条件记录并保存规则集快照以便重放;规则可以引导检索,检索到的文本也能转化为事实供引擎使用;非技术作者可通过可视化编辑器构建规则,或粘贴政策文档由LLM起草带引用的规则,但草稿必须经过审核才能保存。
该产品提供免费层级的托管服务,并包含一个MCP服务器,Claude等智能体可通过uvx ai-rete-rag-mcp调用/decide工具。MCP客户端已开源(MIT协议),但引擎和平台目前未开源。开发者特别希望听到曾向监管机构或审计师解释自动化决策的人分享经验。
来源
本条目由采集管线自动抓取并发布,完整内容见下方来源链接。
*采集源:Hacker News*