返回工具列表
new-api
统一管理多个大模型API的后台系统,帮团队实现多模型聚合、配额控制、计费分发和故障切换。
工具简介
new-api是一个基于Go语言的开源AI API网关平台。它可以把不同厂商、不同协议的大模型接口(如OpenAI、Claude、Gemini等)统一包装成标准格式,同时内置用户管理、令牌管理、渠道管理、计费、日志和统计功能。简单说,它就像一个“模型请求中转站+运营后台”,把分散的AI API集中在一起,让你像管理SaaS业务一样管理模型调用。
它的主要优点包括:支持40多种上游模型,智能路由与故障转移,可按用户/令牌/模型进行细粒度配额控制,支持充值、订阅、按量计费等商业闭环,并配备可视化管理界面,降低从“能调用模型”到“能运营AI业务”的工程门槛。
不过,它也有门槛和局限。部署需要一定的服务器资源(推荐4核8G),并依赖PostgreSQL和Redis;配置渠道、模型价格和额度体系需要学习成本;仅适合多模型场景,若只用单一API则过于沉重。此外,使用AGPLv3许可证,对许可证合规敏感的组织需注意(官方提供商业许可选项)。
该项目非常适合需要整合多个AI提供商、进行团队协作和计费运营的开发者或小型团队,比如独立开发者搭建AI超市、企业内部AI平台。不适合仅需简单转发单一API的个人用户,以及不希望自维护基础设施的非技术团队。
暂无关联内容
这个工具还没有可展示的社媒关联内容。