Show HN:CATT 0.2.1,在 CI 中针对类 Muse/Instinct 智能体测试服务
事件
开源项目 CATT(Consumer Agent Testing Tool)发布 0.2.1 版本,用于帮助团队针对 Muse、Instinct 这类专有个人助理智能体进行迭代测试。开发者指出,为这些智能体构建 MCP/API 时测试非常困难:智能体记忆与账户状态使交互难以复现,进而难以获得可靠、可重复的测试结果。CATT 的做法是提供一个替代性的 Muse 或 Instinct 智能体(与两家公司均无关联),让开发者用其测试自己的服务。
测试者可定义服务的初始条件、审批规则和成功条件,CATT 会记录完整交互过程,包括工具调用与响应,并将实际发生的情况与智能体自报的结果做差异比对。该工具支持工具调用与命令行工具访问、模拟服务操作审批、结果追踪与比较,还可选用基于非官方 Muse 模板的 MCP 配置。运行方式灵活,可在本地构建或 CI 中执行,也可选择是否接入大模型。
由于对各助理具体行为的了解有限,CATT 将自身假设标注为“有文档”“非官方”“假设”或“未知”,供开发者审查,并会随新认知持续更新。团队正征集连接器或 MCP 开发者反馈,例如智能体行为不一致、使用过时信息或未经证据即宣称成功等场景,以便补充测试用例。
来源
本条目由采集管线自动抓取并发布,完整内容见下方来源链接。
*采集源:Hacker News*