Respan 推出开源 Rust AI 网关，以插件为核心

事件

Respan 团队发布开源 Rust AI 网关，主打“解耦”设计：网关核心只负责事件分发，其余能力全部以插件形式提供，包括不同模型供应商接入、MCP 与语音等协议、图像和视频等模态，以及回退、PII 脱敏、智能路由等网关功能。团队希望用一个小核心加公开接口，让各团队按需拼装自己的 AI 基础设施，新增功能无需改动核心。

此前 Respan 基于 LiteLLM 构建网关，服务数千家组织，每家都需要不同的 API Key 配置、路由和限额。为满足这些需求，团队不断在其上封装，包装代码一度超过 10 万行。今年 1 月，一次常规的 LiteLLM 升级引发间歇性连接错误，只能回滚，原因至今未查明，此后团队改为手动回移上游修复。

这些经历让团队判断继续修补 LiteLLM 不可持续，于是自行重新设计网关。新设计借鉴 Nginx 思路，把核心做小，只做事件分发，功能全部插件化，避免新增功能破坏既有能力。对需要自建 AI 基础设施的团队而言，这种可组合、易扩展的网关提供了替代方案，也降低了被上游依赖锁定的风险。

来源

本条目由采集管线自动抓取并发布，完整内容见下方来源链接。

*采集源：Hacker News*