Orvion

Orvion 解决的是多 LLM 提供商统一接入和运维管理的问题：开发者不再需要为每个 AI 提供商编写独立的接入代码和管理逻辑。

它的核心能力是提供统一的 /v1/chat/completions、/v1/embeddings、/v1/rerank 等标准端点，同一逻辑模型可绑定多个上游提供商，支持权重分配与负载均衡。内置 WebUI 管理台覆盖提供商配置、API Key 管理、请求日志和健康监控，并支持熔断自恢复和按 Key 限流（RPM）。

优点包括协议兼容性好（OpenAI/Anthropic 格式）、部署轻量（Go 单二进制）、内置可视化管理界面、支持 Telegram 告警通知。需要注意的是项目处于早期阶段（15 stars），社区较小，限流目前为内存实现，不适合分布式多实例部署。

适合需要统一管理多个 LLM 提供商的小团队或个人开发者，不太适合需要持久化限流和高可用集群的大型生产环境。