OmniRouteby Cheaper Inference
OmniRoute は Cheaper Inference に加わりましたCheaper Inference を見る

#1 オープンソース AI ルーター

352 のプロバイダーを OpenAI 互換のエンドポイントひとつでルーティング。自動フォールバック付き。

Cheaper Inference を試すOmniRoute をセルフホスト (新しいタブで開きます)
OpenAI 互換 無料でオープンソース77.2k スター (新しいタブで開きます)

OmniRoute × Cheaper Inference

OmniRoute の自動フォールバックと開発者ツールを、Cheaper Inference のコスト順マーケットプレイスと組み合わせる。対象となるすべてのリクエストは最安の利用可能なプロバイダールートから始まります。

97 モデル直接の定価と Cheaper Inference 価格の比較
モデル別の直接の定価と Cheaper Inference 価格の比較
モデル入力価格出力価格削減率コンテキスト詳細
gpt-5.6-lunaOpenAI · text$0.20$0.08/ 1M tokens$1.20$0.48/ 1M tokens60% オフ1.1M
gpt-5.6-terraOpenAI · text$2.00$0.80/ 1M tokens$12.00$4.80/ 1M tokens60% オフ1.1M
gpt-oss-120bOpenAI · text$0.10$0.040483/ 1M tokens$0.50$0.202417/ 1M tokens59.52% オフ128K
deepseek-v4.1-flashDeepSeek · text$0.15$0.075/ 1M tokens$0.60$0.30/ 1M tokens50% オフ1.0M
gpt-5.6-solOpenAI · text$4.00$2.00/ 1M tokens$20.00$10.00/ 1M tokens50% オフ1.1M
glm-4.5Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45% オフ128K
glm-4.6Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45% オフ198K
glm-4.7Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45% オフ128K
97 モデル中 8 件を表示中
直接の定価 → Cheaper Inference 価格 · すべてのモデルを見る · ライブカタログを見る (新しいタブで開きます)2026年10月14日 14:00 UTC に価格を確認。上流の価格や利用可能なルートが変わるとレートも変わることがあります。

コアコントロール

設定済みプロバイダーをひとつのエンドポイントで。

Core control

リクエストを止めない

ターゲットが利用不可またはクォータ切れのとき、OmniRoute は次の正常なターゲットを選択します。

Core control

対象コンテキストを圧縮

12 エンジンのパイプラインが対象コンテキストを 15–95% 削減。ドキュメント記載のツール多用の例では ~89% 削減しました。

Core control

$0 で開始

90+ の無料枠と、56 の定期更新またはキー不要の永続無料プロバイダー。キー不要のクイックスタートにクレジットカードは不要です。

Core control

35 の対応インテグレーション

Claude Code、Codex、Cursor、Cline、Copilot、Antigravity などの対応クライアントをひとつのエンドポイントで設定。

Core control

ひとつのエンドポイント

OpenAI、Claude、Gemini、Responses API のリクエストを /v1 で受け付けます。

Core control

運用コントロール

サーキットブレーカー、暗号化された認証情報、MCP、A2A、メモリ、ガードレール、評価がセルフホスト版ゲートウェイに同梱。

カタログ

すべてをひとつのエンドポイントの背後に。

チャット、メディア、検索、ローカルランタイム、クラウドエージェント、システム連携にわたるカタログ。

352 プロバイダー

そのすべてが、ひとつのローカルエンドポイントの背後に。

すべてのクライアントが向くひとつのエンドポイントhttp://localhost:20128/v1

14 Search12 Audio-only2 Upstream proxy3 Cloud agent1 System
OpenAIAnthropicGoogleDeepSeekxAIZ.aiMoonshotMiniMaxAlibabaMetaBytedanceAion Labs
25OAuthClaude Code、Codex、Cursor、GitHub Copilot、Kimi Code…
233API キーOpenAI、Anthropic、Groq、NVIDIA、Cerebras、Mistral…
35Web クッキーChatGPT Web、Claude Web、Gemini Web、Grok Web…
14ローカルOllama、LM Studio、vLLM、llama.cpp…
13認証不要OpenCode Free、Felo、Pollinations などのキー不要ルート…
プロバイダーリファレンスを見る (opens in a new tab)

クイックスタート

インストール、起動、接続。

パッケージをインストールしてゲートウェイを起動し、OpenAI 互換クライアントをポート 20128 に向けるだけ。

プロバイダーカタログ
352
ルーティング戦略
19
ローカルエンドポイント
:20128/v1

Step 1: インストール

omniroute npm パッケージをグローバルにインストールします。

omniroute: install
$ npm install -g omnirouteadded 1 package

Step 2: 起動

API とダッシュボードをポート 20128 でまとめて起動します。

omniroute: run
$ omniroute▸ dashboard ✓ http://localhost:20128/dashboard▸ api ...... ✓ serving on :20128

Step 3: ツールを接続

http://localhost:20128/v1 を使用。キー不要の auto ルートは新規インストールでそのまま動作します。

omniroute: connect
$ curl localhost:20128/v1/models✓ models listed

ゲートウェイコントロール

コアのゲートウェイコントロールをひとつのプロセスで。

フォールバック、クォータ、圧縮、メモリ、MCP、A2A をローカルダッシュボードから設定。

Gateway control

スマートコンボ

モデルを auto に設定するか、19 種類の戦略と階層型フォールバックで独自のコンボを構築。

既成のモードを使うか、重視する目標に合わせて 19 種類の戦略を組み合わせる。

Gateway control

メモリ

FTS5 キーワード検索と Qdrant ベクトル検索による永続的な会話メモリ。

Gateway control

3 層のレジリエンス

プロバイダーブレーカー、接続クールダウン、モデルロックアウトが障害を最小限の範囲に隔離。

Gateway control

無料クォータ

90+ の無料枠をプール単位で重複排除して集計。

公開された無料枠の容量を、重複排除して。

Gateway control

圧縮

ツール出力、コンテキスト、応答スタイル向けの 12 の組み合わせ可能なエンジン。

対象トークンを 15–95% 削減。

Gateway control

MCP サーバー

33 スコープにわたる 110 のゲートウェイツールを公開する組み込みサーバー。

110 ツール · 33 スコープ · stdio / HTTP

Gateway control

A2A プロトコル

6 のスキルを備えた JSON-RPC エージェントサーバー。

6 スキル · JSON-RPC 2.0 · Agent Card

Gateway control

セマンティックキャッシュ

繰り返しのリクエストはキャッシュから返され、応答ヘッダーが削減額を報告します。

X-OmniRoute-Cache: HIT

クライアント互換性

今のコーディングツールをそのまま。

OpenAI 互換の CLI やエディターをひとつのローカル Base URL に向けるだけ。背後のプロバイダーは OmniRoute が処理します。

Claude Code
Codex CLI
Cursor
Cline
GitHub Copilot
Gemini CLI
OpenCode
Kilo Code
Factory Droid
Continue
Roo Code
Antigravity
Aider
OpenClaw
Goose
Grok Build
Windsurf
Devin CLI

http://localhost:20128/v1

request.sh
curl http://localhost:20128/v1/chat/completions \
  -H "Authorization: Bearer $OMNIROUTE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Hello"}]}'

OmniCopilot

Copilot Chat で OmniRoute のモデルを使う。

OmniCopilot は既存のモデルピッカーに OmniRoute のモデルを追加します。

公式 Marketplace

VS Code の安定版と Insiders で動作。Marketplace または拡張機能ビューからインストール。

Open VSX Registry

Cursor、Windsurf、VSCodium、Theia、code-server、Gitpod などの互換エディター向け。

Copilot プランは不要

Copilot プランを経由せずに、プロバイダーのモデルを OmniRoute 経由で Copilot Chat 上で実行できます。

VS Code Marketplace (新しいタブで開きます)Open VSX Registry (新しいタブで開きます)OmniCopilot source (新しいタブで開きます)

よくある障害パターン

OmniRoute を選ぶ理由

よくある障害パターンごとに、どのコントロールが対処するかを確認。

Without routing
With OmniRoute
クォータが使われずに失効する
すでにある割り当てを追跡して使い切る
レート制限で作業が途中で止まる
4 階層の自動フォールバックをミリ秒で
ツール出力がトークンを浪費する
12 エンジンの圧縮で対象コンテンツを 15–95% 削減
高価な API の費用が積み上がる
コスト最適化ルーティングが最安の対象ターゲットを選択
ツールごとに個別の設定が必要
ひとつのエンドポイントとひとつのダッシュボード
自分のネットワークからプロバイダーに届かない
プロキシスコープとクライアントフィンガープリント制御
キーひとつの失効でプロバイダー全体が止まる
ブレーカー、クールダウン、ロックアウトが障害を隔離
チームでひとつのサブスクリプションを共有する
キープールと公平配分クォータ
ルーティングデータをローカルで管理したい
暗号化された認証情報によるローカルファーストの保存
支出や健全性が見えない
使用量、クォータ、削減額、レイテンシの分析

ドキュメントスナップショット

ゲートウェイの比較

2026-08-30 時点でリンク先のプロジェクトドキュメントと照合した機能。

機能OmniRoute (新しいタブで開きます)9Router (新しいタブで開きます)LiteLLM (新しいタブで開きます)CLIProxyAPI (新しいタブで開きます)
プロバイダー35240+100+8+ upstreams
ルーティング戦略193-tierretry / priorityround-robin / fill-first
UI 付きの階層型フォールバックYesYesManual policyMulti-account
トークン圧縮12 engines · 15–95%RTK / Headroom / CavemanNo built-in pipelineHTTP compression

公開 README と公式ドキュメントのスナップショット。購入やデプロイの判断前にリンク先のソースを確認してください。

デプロイ

OmniRoute を動かす 9 通りの対応方法。

ノートPC、サーバー、スマートフォンにインストールするか、対応エディターとプラグイン経由で接続。

npm

対応デスクトップ OS ならコマンドひとつ

npm install -g omnirouteガイドを開く (新しいタブで開きます)

Docker

AMD64 と ARM64 のマルチアーチイメージ

docker run … diegosouzapw/omnirouteガイドを開く (新しいタブで開きます)

Desktop

Windows、macOS、Linux でネイティブウィンドウとシステムトレイ

npm run electron:buildガイドを開く (新しいタブで開きます)

ARM

Raspberry Pi、ARM サーバー、Apple Silicon

native arm64

Android · Termux

root 不要で Android 上で動作

pkg install nodejs && npx -y omnirouteガイドを開く (新しいタブで開きます)

PWA

フルスクリーン、オフライン対応、ブラウザーからインストール可能

Add to Home Screenガイドを開く (新しいタブで開きます)

OpenCode plugin

ネイティブの OpenCode プロバイダープラグイン

@omniroute/opencode-providerガイドを開く (新しいタブで開きます)

VS Code

Copilot Chat のピッカーに OmniRoute のモデル

Install OmniCopilotガイドを開く (新しいタブで開きます)

From source

ハックして貢献する

npm install && npm run devガイドを開く (新しいタブで開きます)

ルーティング

auto ルートを選ぶ。

既成のモードを使うか、重視する目標に合わせて 19 種類の戦略を組み合わせる。

モデル · フォールバック有効autoBalanced default
OpenAI 互換リクエスト
curl http://localhost:20128/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Write a TypeScript retry helper."}]}'

Routing alias auto selected. Objective: Balanced default. Fallback enabled.

サブスクリプションのクォータを使い切る

有料 API に手を付ける前に、すでにあるクォータを使う。

priority · fill-first

負荷を分散

キーとアカウント間でトラフィックを分散し、レート制限の圧力を軽減。

weighted · round-robin · p2c · least-used · headroom

最安を優先

最も低コストな対象ターゲットにルーティング。

cost-optimized

コンテキスト対応

長いコンテキストは収まるモデルに保ち、必要に応じてリレー。

context-relay · context-optimized · cache-optimized

ランダム

対象トラフィックをターゲット間に分散。

random · strict-random

適応スコアリング

15 要素のスコアリング、最終正常記録、リセットを考慮したウィンドウを使用。

reset-window · reset-aware · lkgp · auto · fusion · pipeline

無料枠の集計

公開された無料枠の容量を、重複排除して。

455 のカタログエントリを 40 の定期更新プールに重複排除。公開された正の予算のみを見出しの数値に反映。

1.51B

プール単位の重複排除により、共有クォータの二重計上を防止。上限なしのプロバイダーはトークン合計を膨らませずに表示されます。 Checked 2026-08-30.

計算を見る (新しいタブで開きます)
定期更新またはキー不要の永続無料プロバイダー56
  • Mistral1B/month
  • LLM7150M/month
  • Nara150M/month
  • Gemini CLI · forever60M/month
  • Kiro50 credits/month
  • Qoder · foreverFree catalog
  • LongCat · forever50M/day
  • Cerebras1M/day
  • NVIDIA NIM~40 RPM
  • Pollinations · foreverNo key
  • Cloudflare Workers AI · foreverDaily neurons
  • OpenCode Free · foreverNo-auth catalog

コンテキスト圧縮

対象トークンを 15–95% 削減。

ツール出力、繰り返されるコンテキスト、肥大化した構造化データをモデルに届く前に圧縮。

対象トークンのコンテキストを 15–95% 削減

圧縮前: The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total. 圧縮後: sum all list items where value > 0

  1. Session-Dedup
  2. CCR
  3. Lite
  4. RTK
  5. Responses Tool Output
  6. Headroom
  7. Relevance
  8. Caveman
  9. Aggressive
  10. LLMLingua-2
  11. Ultra
  12. OmniGlyph

同じ指示。支払うコンテキストは少なく。

圧縮前69 tokens
The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total.
圧縮後19 tokens
sum all list items where value > 0

組み合わせ可能なパイプライン

  1. Session-Dedup
    セッション内で既に送信済みのコンテンツを除去。
  2. CCR
    大きなブロックをアーカイブし、必要時に復元。
  3. Lite
    控えめなロスレスのクリーンアップを適用。
  4. RTK
    コマンドとツールの出力をフィルタリングして重複排除。
  5. Responses Tool Output
    Responses API のツールペイロードを圧縮。
  6. Headroom
    可逆的な表形式・構造化データの圧縮を適用。
  7. Relevance
    最新のクエリに最も関連する文を保持。
  8. Caveman
    ルールベースの文章凝縮を使用。
  9. Aggressive
    設定されたより強いプルーニングを適用。
  10. LLMLingua-2
    分離ワーカーでコードセーフなセマンティックプルーニングを使用。
  11. Ultra
    高削減ステージと保護ガードを組み合わせる。
  12. OmniGlyph
    対象となる繰り返し構造をコンパクトにエンコード。

プロファイル

公開されたプロファイルの範囲~30%x-omniroute-compression: standard

Standard 圧縮を選択。公開範囲 ~30%。

コントロールと出力スタイル

  • 名前付きプロファイルとアクティブセレクター
  • ビジュアル Compression Studio
  • Anthropic Context Editing
  • 適応コンテキスト予算ダイヤル
  • リクエスト単位の \
  • ヘッダー
  • オフライン評価ハーネス
  • トークンしきい値の自動トリガー
  • Terse prose
  • Less code (YAGNI)
  • Terse CJK 文言

制御の優先順位: リクエストヘッダー → コンボ → プロファイル → 適応ポリシー → デフォルト。

障害隔離

プロバイダー、接続、モデルの障害を隔離。

不良なキーでプロバイダーが止まるべきではない。制限されたモデルで接続が止まるべきではない。

モデル ⊂ 接続 ⊂ プロバイダー
プロバイダーサーキットブレーカープロバイダーが不健全なとき、コンボルーティングはハーフオープンのプローブが成功するまでそれをスキップ。
接続クールダウンひとつのキーやアカウントをクールダウンしつつ、兄弟接続は処理を継続。
モデルロックアウトレート制限または利用不可のモデルひとつをロックし、同じ接続の他のモデルは利用可能なまま。

ネットワーク制御

ネットワークルーティングとローカルデータの制御。

プロキシスコープがネットワークルーティングを制御し、ローカルファーストの保存が運用データを自分のマシンに保持。

3 つのプロキシスコープ

グローバル、プロバイダー単位、接続単位でルーティング。

  • グローバル · プロバイダー単位 · 接続単位
  • SOCKS5 と HTTP(S) プロキシ
  • プロキシマーケットプレイス連携

TLS とクライアントフィンガープリント制御

対応プロバイダーのクライアントに、選択したトランスポート特性まで合わせる。

  • wreq-js による JA3/JA4 対応トランスポート
  • プロバイダー固有のクライアントプロファイル
  • IPv4 と IPv6 の送信制御

プライベートでローカルファースト

キー、使用量、履歴は自分が管理するホストに残ります。

  • ディスク上の SQLite に AES-256-GCM で暗号化した認証情報
  • OmniRoute アカウント不要
  • 選んだインフラでセルフホスト
ロシア中国イランキューバトルコ

ローカルダッシュボード

YAML を編集せずに OmniRoute を設定。

プロバイダー、コンボ、分析、健全性、コストを localhost:20128/dashboard で管理。

localhost:20128/dashboardサンプルデータ
352接続中のプロバイダー
90+利用可能な無料枠
198この例で正常
  • Claude Code · OAuth · 稼働中
  • Cerebras · 無料 · 稼働中
  • Groq · クールダウンの例
  • NVIDIA NIM · 無料 · 稼働中

エージェントプロトコル

OmniRoute を MCP と A2A で公開。

OmniRoute はゲートウェイを MCP クライアント、A2A ネットワーク、対応するクラウドコーディングエージェントに公開できます。

MCP サーバー

33 スコープにわたる 110 のツールを stdio と HTTP トランスポートで提供。

110 ツール · 33 スコープ · stdio / HTTP

claude mcp add omniroute --type http --url http://localhost:20128/api/mcp/stream

A2A サーバー

スマートルーティング、クォータ、ディスカバリー、コスト分析、健全性レポート向けの 6 のスキルを JSON-RPC 2.0 で提供。

6 スキル · JSON-RPC 2.0 · Agent Card

クラウドエージェント

対応する Codex、Cursor、Devin、Jules のワークフローをひとつのオーケストレーション面で接続。

Codex · Cursor · Devin · Jules

追加サービス

ゲートウェイを拡張。

組み込みサービス

Bifrost、9Router、CLIProxy をマネージドサイドカーとして実行するか、完全なクラスタープロファイルを運用。

自分のナレッジをコンテキストに

Notion と Obsidian を MCP ベースのコンテキストソースとして接続。

組み込みのガードレール

プロンプトインジェクション検査、オプトインの PII マスキング、正規化された安全フィルターをプロバイダーロックインなしで。

使用目標

運用分析と並べて、ストリーク、実績、リアルタイムの削減額を追跡。

コミュニティから

OmniRoute の使われ方と語られ方。

開発者が X、Reddit、YouTube で何を作り、尋ね、共有しているかを見る。

32 チャンネルからの 32 本の動画コミュニティ動画 32 本をすべて見る

Profile picture of Peng
Peng@pengsonal
Link to tweet (opens in a new tab)
one local endpoint for cursor / cline / claude code / copilot 😳 OmniRoute (24.7k★ on GitHub) runs a self-hosted router on your machine so you only need one base URL for all your coding agents. wha…

25 posts from X · 25 Reddit postsすべての投稿を見る

オープンに開発

リポジトリの活動

チェックイン済みの GitHub スナップショットから、スター、フォーク、コントリビューター、リリースを確認。

  • 11,169フォーク
  • 832コントリビューター
  • 281リリース
  • 8,942マージ済み PR
  • 5,072クローズ済み Issue
  • 30,000自動テスト

2026-10-16 時点のスナップショット

Discord

チャット、サポート、ロードマップ

(新しいタブで開きます)

Telegram

ニュースとお知らせ

(新しいタブで開きます)

WhatsApp 🌍

グローバルコミュニティ

(新しいタブで開きます)

WhatsApp 🇧🇷

Comunidade Brasil

(新しいタブで開きます)
コントリビューターを見る (新しいタブで開きます)

OmniRoute by Cheaper Inference

OmniRoute の使い方を選ぶ。

OmniRoute をセルフホストするか、ホスト型のコスト順ゲートウェイとして Cheaper Inference から始める。

Cheaper Inference を試す OmniRoute をセルフホスト (新しいタブで開きます)