ツール一覧に戻る
new-api
複数のLLM APIをまとめて管理し、利用制限や課金、振り分けまで行えるセルフホスト型バックエンド。
ツール概要
new-apiはGo言語で開発されたオープンソースのAI APIゲートウェイです。異なるプロバイダの大規模言語モデルAPIをOpenAIやClaude、Gemini互換のフォーマットに変換し、単一のエンドポイントで提供します。さらに、ユーザー管理、トークン管理、チャネルルーティング、使用量の制限、料金モデル設定、課金システムまで備えており、生のAPIをビジネス運用可能なサービスに変えることができます。
主な利点は、40以上の上流モデルへの統一アクセス、インテリジェントなフェイルオーバー、ユーザーやトークンごとのきめ細かな割り当て制御、前払いクォータ・サブスクリプション・従量課金のサポート、管理画面による可視化です。これにより、マルチモデルAIプロダクトの開発と運用が大幅に効率化されます。
一方で、導入には4コア8GB程度のサーバーとPostgreSQL、Redisのセットアップが必要で、運用知識も求められます。チャネルや料金設定は複雑になりがちで、単一のAPIを転送するだけの用途にはオーバースペックです。AGPLv3ライセンスのためコンプライアンスが問題になる場合がありますが、商用ライセンスも選択可能です。
独立系開発者や小規模チームが複数のAIサービスを統合し、メンバー間のトークン使用量を管理したり、API販売のための課金基盤として使うのに最適です。単一プロバイダーのAPIを転送するだけの用途や、インフラを自前で維持したくない組織には向いていません。