मुफ़्त और ओपन-सोर्स AI गेटवे

कोडिंग कभी न रोकें।

Route across 352 providers through one OpenAI-compatible endpoint, with automatic fallback.

Start with Cheaper Inference Self-host OmniRoute

352 providers
90+ free tiers
15–95% eligible tokens saved

OpenAI-compatible Free and open source59.6k stars

6 models

Direct list prices compared with Cheaper Inference prices by model
Model	Input price	Output price	Savings
gpt-5.6-lunaOpenAI · text	~~$0.20~~$0.08/ 1M tokens	~~$1.20~~$0.48/ 1M tokens	60% off
gpt-5.6-solOpenAI · text	~~$2.00~~$1.00/ 1M tokens	~~$10.00~~$5.00/ 1M tokens	50% off
glm-5.3Z.ai · text	~~$1.40~~$0.77/ 1M tokens	~~$4.40~~$2.42/ 1M tokens	45% off
deepseek-v4-flashDeepSeek · text	~~$0.083~~$0.05/ 1M tokens	~~$0.18~~$0.11/ 1M tokens	40% off
deepseek-v4-flash-0731DeepSeek · text	~~$0.067~~$0.04/ 1M tokens	~~$0.18~~$0.11/ 1M tokens	40% off
glm-5.3-flashZ.ai · text	~~$0.071~~$0.05/ 1M tokens	~~$0.24~~$0.17/ 1M tokens	30% off

वादा

एक एंडपॉइंट। निर्माण कभी न रोकें।

सीमाओं से कभी न टकराएं

339 प्रोवाइडर में मिलीसेकंड में ऑटो-फ़ॉलबैक। कोटा खत्म? अगला प्रोवाइडर संभाल लेता है. शून्य डाउनटाइम।

95% तक टोकन बचाएं

A 12-engine pipeline reduces eligible context by 15–95%. The documented tool-heavy example reduced it by ~89%.

$0 से शुरू

90+ free tiers and 56 recurring or keyless free-forever providers. No credit card needed for the keyless quick start.

35 supported integrations

16+ कोडिंग एजेंट. Claude Code, Codex, Cursor, Cline, Copilot, Antigravity. एक config के ज़रिए।

एक एंडपॉइंट

OpenAI ↔ Claude ↔ Gemini ↔ Responses API अनुवाद। किसी भी टूल को /v1 पर पॉइंट करें और यह बस काम करता है।

प्रोडक्शन-ग्रेड

सर्किट ब्रेकर, TLS स्टेल्थ, MCP (105 tools), A2A, मेमोरी, guardrails, evals. 25,000+ टेस्ट द्वारा समर्थित।

कैटलॉग

All behind one endpoint.

A catalog spanning chat, media, search, local runtimes, cloud agents and system integrations.

352 providers

14 Search12 Audio-only2 Upstream proxy3 Cloud agent1 System

25OAuthClaude Code, Codex, Cursor, GitHub Copilot, Kimi Code…

233API keyOpenAI, Anthropic, Groq, NVIDIA, Cerebras, Mistral…

35Web cookieChatGPT Web, Claude Web, Gemini Web, Grok Web…

14LocalOllama, LM Studio, vLLM, llama.cpp…

13No authenticationOpenCode Free, Felo, Pollinations and other keyless routes…

Explore the provider reference

60 सेकंड में चालू

तीन कमांड। कोई config नहीं।

Install the package, launch the gateway, then point any OpenAI-compatible client at port 20128.

Provider catalog: 352
Routing strategies: 19
Local endpoint: :20128/v1

Step 1: Install

Install the `omniroute` npm package globally.

omniroute: install

$ npm install -g omnirouteadded 1 package

Step 2: Run

Launch the API and dashboard together on port 20128.

omniroute: run

$ omniroute▸ dashboard ✓ http://localhost:20128/dashboard▸ api ...... ✓ serving on :20128

Step 3: Connect your tool

Use `http://localhost:20128/v1`; the keyless `auto` route works on a fresh install.

omniroute: connect

$ curl localhost:20128/v1/models✓ models listed

सब कुछ शामिल

सब कुछ बिल्ट-इन। कोई ऐड-ऑन नहीं।

रूटिंग, रेज़ीलिएंस, फ्री-कोटा ड्रेनिंग, कंप्रेशन और एजेंट प्रोटोकॉल. एक बाइनरी, जोड़ने के लिए कोई प्लगइन नहीं।

स्मार्ट Combos

Set a model to `auto` or build your own combo with 19 strategies and tiered fallback.

Use a ready-made mode or combine 19 strategies around the goal that matters.

मेमोरी

स्थायी संवादात्मक स्मृति. FTS5 कीवर्ड + Qdrant वेक्टर रिकॉल, बिल्ट इन।

3-layer resilience

सही स्तर पर विफल हों. पूरी चीज़ कभी नहीं। प्रति प्रोवाइडर सर्किट ब्रेकर, प्रति कनेक्शन कूलडाउन, प्रति मॉडल लॉकआउट। अन्य की और मॉडल सेवा देते रहते हैं।

मुफ़्त कोटा

Pool-deduped accounting across 90+ free tiers.

~1.51B मुफ़्त टोकन एक महीने में।

कंप्रेशन

12 composable engines for tool output, context and response style.

Reduce eligible tokens by 15–95%.

MCP Server

A built-in server exposing 110 gateway tools across 33 scopes.

110 tools · 33 scopes · stdio / HTTP

A2A Protocol

A JSON-RPC agent server with 6 skills.

6 skills · JSON-RPC 2.0 · Agent Card

CombosResilienceFree quotaCompressionMCPA2AMemoryProxy controlsGuardrailsCloud agentsEvalsSemantic cacheSkillsAnalytics

Client compatibility

Keep your existing coding tools.

Point an OpenAI-compatible CLI or editor at one local base URL; OmniRoute handles the providers behind it.

Claude Code

Codex CLI

Cursor

Cline

GitHub Copilot

Gemini CLI

OpenCode

Kilo Code

Factory Droid

Continue

Roo Code

Antigravity

Aider

OpenClaw

Goose

Grok Build

Windsurf

Devin CLI

http://localhost:20128/v1

request.sh

curl http://localhost:20128/v1/chat/completions \
  -H "Authorization: Bearer $OMNIROUTE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Hello"}]}'

नया

अब आपके VS Code Copilot Chat में

OmniCopilot एक्सटेंशन इंस्टॉल करें और हर OmniRoute मॉडल सीधे उस मॉडल पिकर में दिखाई देता है जिसे आप पहले से इस्तेमाल करते हैं. कोई नया साइडबार नहीं, कोई नया चैट UI नहीं।

Official Marketplace

Works in VS Code stable and Insiders. Install from the Marketplace or Extensions view.

Open VSX Registry

उन VS Code forks के लिए जो आधिकारिक स्टोर का उपयोग नहीं करते. Cursor, Windsurf, VSCodium, Theia, code-server, Gitpod और अन्य।

Copilot प्लान की ज़रूरत नहीं

VS Code 1.122 से, प्रोवाइडर मॉडल बिना GitHub साइन-इन या Copilot सब्सक्रिप्शन के काम करते हैं. एजेंट मोड, टूल कॉलिंग और विज़न, OmniRoute के फ्री मॉडलों पर।

VS Code Marketplace Open VSX Registry OmniCopilot source

रोज़ की हकीकत

OmniRoute क्यों

हर कोडिंग-AI दर्द का बिल्ट-इन समाधान है। कोई स्क्रिप्ट नहीं, कोई निगरानी नहीं।

Without routing

With OmniRoute

Quota expires unused

Track and drain the allowance you already have

Rate limits stop you mid-task

4-tier auto-fallback in milliseconds

Tool output burns tokens

12-engine compression, 15–95% on eligible content

Expensive APIs add up

Cost-optimized routing can pick the cheapest eligible target

Each tool needs its own setup

One endpoint and one dashboard

A provider is unavailable from your network

Proxy scopes and client-fingerprint controls

One dead key breaks a provider

Breaker, cooldown and lockout isolate the failure

A team shares one subscription

Key pools and fair-share quotas

You need local control of routing data

Local-first storage with encrypted credentials

No spend or health visibility

Usage, quota, savings and latency analytics

1. Subscription2. API key3. Cheap4. Free

ईमानदार तुलना

हम कैसे तुलना करते हैं

Capabilities checked against the linked project documentation on 2026-08-30.

Capability	OmniRoute (opens in a new tab)	9Router (opens in a new tab)	LiteLLM (opens in a new tab)	CLIProxyAPI (opens in a new tab)
Providers	352	40+	100+	8+ upstreams
Routing strategies	19	3-tier	retry / priority	round-robin / fill-first
Tiered fallback with UI	Yes	Yes	Manual policy	Multi-account
Token compression	12 engines · 15–95%	RTK / Headroom / Caveman	No built-in pipeline	HTTP compression

Capability	OmniRoute (opens in a new tab)	9Router (opens in a new tab)	LiteLLM (opens in a new tab)	CLIProxyAPI (opens in a new tab)
Built-in MCP server	110 gateway tools	No	MCP client / gateway	No
A2A protocol	Server · 6 skills	No	A2A client / gateway	No
Cloud agents	Codex / Cursor / Devin / Jules	No	No	Sidecar integrations

Capability	OmniRoute (opens in a new tab)	9Router (opens in a new tab)	LiteLLM (opens in a new tab)	CLIProxyAPI (opens in a new tab)
Failure-isolation layers	3: provider / connection / model	Cooldown	Cooldown / retry	Cooldown
Persistent memory	FTS5 + vector	No	Semantic cache	No
Guardrails	PII / injection / vision	No	Yes	Cloaking controls
Eval framework	Built in	No	No	No
TLS fingerprint controls	wreq-js	No	No	uTLS

Capability	OmniRoute (opens in a new tab)	9Router (opens in a new tab)	LiteLLM (opens in a new tab)	CLIProxyAPI (opens in a new tab)
Dashboard stack	Next.js 16	Next.js 16	Next.js	Next.js / React
UI locales	42	10	Not documented	3
OAuth providers	25	6	SSO	CLI auth
Self-hostable	Yes	Yes	Yes	Yes
License	MIT	MIT	MIT + enterprise	MIT

Public README and official documentation snapshot; verify linked sources before purchase or deployment decisions.

कहीं भी चलता है

9 supported ways to run OmniRoute.

एक कोडबेस, नौ तरीके. लैपटॉप, सर्वर, फोन या प्लगइन। इंस्टॉल कमांड चुनें और आप port 20128 पर सर्विंग कर रहे हैं।

ARM

native arm64

Android · Termux

Termux

pkg install nodejs && npx -y omnirouteOpen guide

PWA

Add to Home ScreenOpen guide

OpenCode plugin

@omniroute/opencode-providerOpen guide

VS Code

Install OmniCopilotOpen guide

From source

सोर्स

npm install && npm run devOpen guide

Routing

Choose an `auto` route.

Use a ready-made mode or combine 19 strategies around the goal that matters.

Model · fallback enabledautoBalanced default

OpenAI-compatible request

curl http://localhost:20128/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Write a TypeScript retry helper."}]}'

Drain subscription quota

Use quota you already have before touching paid APIs.

priority · fill-first

Spread load

Balance traffic across keys and accounts to reduce rate-limit pressure.

weighted · round-robin · p2c · least-used · headroom

Cheapest first

Route to the lowest-cost eligible target.

cost-optimized

Context-aware

Keep long contexts on models that fit, then relay when needed.

context-relay · context-optimized · cache-optimized

Randomized

Distribute eligible traffic across targets.

random · strict-random

Adaptive scoring

Use 15-factor scoring, last-known-good and reset-aware windows.

reset-window · reset-aware · lkgp · auto · fusion · pipeline

मुफ़्त टोकन, ईमानदारी से गिने

~1.51B मुफ़्त टोकन एक महीने में।

455 catalog entries are deduplicated into 40 recurring pools; only published positive budgets feed the headline.

1.51B

Pool-deduped accounting keeps shared quotas from being counted more than once. No-cap providers stay visible without inflating the token total. Checked 2026-08-30.

View the calculation

Recurring or keyless free-forever providers56

Mistral1B/month
LLM7150M/month
Nara150M/month
Gemini CLI · forever60M/month
Kiro50 credits/month
Qoder · foreverFree catalog
LongCat · forever50M/day
Cerebras1M/day
NVIDIA NIM~40 RPM
Pollinations · foreverNo key
Cloudflare Workers AI · foreverDaily neurons
OpenCode Free · foreverNo-auth catalog

टोकन जलाना बंद करें

Reduce eligible tokens by 15–95%.

टूल आउटपुट, दोहराया गया context और फूला हुआ JSON मॉडल तक पहुंचने से पहले कंप्रेस होते हैं. वही अर्थ, टोकन का एक अंश। 12 संयोजनीय engines एक pipeline में stack होते हैं जिसे आप control करते हैं।

Before69 tokens

The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total.

After19 tokens

sum all list items where value > 0

Composable pipeline

Session-Dedup
Drop content already sent earlier in the session.
CCR
Archive large blocks and restore them on demand.
Lite
Apply conservative lossless cleanup.
RTK
Filter and deduplicate command and tool output.
Responses Tool Output
Compact Responses API tool payloads.
Headroom
Apply reversible tabular and structured-data compaction.
Relevance
Keep sentences most relevant to the latest query.
Caveman
Use rule-based prose condensation.
Aggressive
Apply stronger configured pruning.
LLMLingua-2
Use code-safe semantic pruning in an isolated worker.
Ultra
Combine high-savings stages with preservation guards.
OmniGlyph
Encode eligible repeated structures compactly.

Profiles

Published profile range~30%x-omniroute-compression: standard

Controls and output styles

Named profiles and active selector
Visual Compression Studio
Anthropic Context Editing
Adaptive context-budget dial
Per-request `x-omniroute-compression` header
Offline eval harness
Token-threshold auto-trigger
Terse prose
Less code (YAGNI)
Terse CJK 文言

Control precedence: request header → combo → profile → adaptive policy → default.

3 लेयर, 3 टियर नहीं

सही स्तर पर विफल हों. पूरी चीज़ नहीं।

एक खराब key को प्रोवाइडर नहीं मारना चाहिए। एक डेड मॉडल को key नहीं मारना चाहिए। हर विफलता सबसे छोटे संभव scope तक सीमित है, ताकि बाकी सब सर्विंग जारी रखे।

model ⊂ connection ⊂ provider

Provider circuit breakerWhen a provider is unhealthy, combo routing skips it until a half-open probe succeeds.

Connection cooldownCool down one key or account while sibling connections keep serving.

Model lockoutLock one rate-limited or unavailable model while other models on the connection remain available.

Network controls

Network routing and local data controls.

Proxy scopes control network routing while local-first storage keeps operational data on your machine.

Three proxy scopes

Route globally, per provider or per individual connection.

Global · per-provider · per-connection
SOCKS5 and HTTP(S) proxies
Proxy marketplace integration

TLS and client fingerprint controls

Match supported provider clients down to selected transport characteristics.

JA3/JA4-capable transport via wreq-js
Provider-specific client profiles
IPv4 and IPv6 egress controls

Private and local-first

Keys, usage and history stay on the host you control.

SQLite on disk with AES-256-GCM encrypted credentials
No OmniRoute account required
Self-host on infrastructure you choose

RussiaChinaIranCubaTürkiye

एक नज़र में सब देखें

एक पूरा डैशबोर्ड, कोई config फाइल नहीं।

Manage providers, combos, analytics, health and costs at `localhost:20128/dashboard`.

localhost:20128/dashboardExample data

352providers connected

90+free tiers available

198healthy in this example

Claude Code · OAuth · live
Cerebras · free · live
Groq · cooldown example
NVIDIA NIM · free · live

एजेंट-नेटिव

एक एजेंट कनेक्ट करें. वह OmniRoute खुद चलाता है।

OmniRoute सिर्फ एक प्रॉक्सी नहीं है. यह एजेंट प्रोटोकॉल बोलता है। इसे MCP client, A2A नेटवर्क या cloud coding एजेंट में प्लग करें और यह एक ऐसा टूल बन जाता है जिसे एजेंट ऑपरेट कर सके।

MCP Server

110 tools across 33 scopes over stdio and HTTP transports.

110 tools · 33 scopes · stdio / HTTP

claude mcp add omniroute --type http --url http://localhost:20128/api/mcp/stream

A2A Server

6 skills for smart routing, quota, discovery, cost analysis and health reporting over JSON-RPC 2.0.

6 skills · JSON-RPC 2.0 · Agent Card

Cloud Agents

Codex, Cursor, Devin और Jules को एक इंटरफेस के ज़रिए चलाएं. tasks बनाएं, plans approve करें और results stream करें, सब OmniRoute के ज़रिए रूट होकर।

Codex · Cursor · Devin · Jules

रूटिंग से आगे

सिर्फ एक प्रॉक्सी नहीं. एक प्लेटफॉर्म।

एम्बेडेड सर्विसेज़

Bifrost (Go रिले), 9Router या CLIProxy को managed sidecars के रूप में चलाएं. या एक पूरा cluster profile. सीधे डैशबोर्ड से।

आपका ज्ञान, context में

Notion और Obsidian को MCP tools के रूप में जोड़ा गया. आपके notes और vaults किसी भी मॉडल के लिए first-class context बन जाते हैं।

Guardrails बिल्ट-इन

हर route पर prompt-injection guard, opt-in PII redaction और safety content-filter normalization. बिना lock-in के सुरक्षा।

गेमिफिकेशन

Streaks, achievements और live बचत. आपका उपयोग, ठोस रूप में।

Guides

Setup guides in three languages

Walkthroughs cover installation, free-provider setup and connecting an IDE.

एक तेज़-रफ्तार, सक्रिय समुदाय

OmniRoute लगातार शिप होता है. सैकड़ों योगदानकर्ताओं द्वारा संचालित जो इसे आगे बढ़ाते रहते हैं।

Public since February 13, 2026

59,579 stars

View the repository

8,274forks
583contributors
280releases shipped

Snapshot from 2026-09-01

OmniRoute by Cheaper Inference

Choose how you run OmniRoute.

Self-host OmniRoute, or start with Cheaper Inference for a hosted cost-ranked gateway.

Start with Cheaper Inference Self-host OmniRoute

कोडिंग कभी न रोकें।

OmniRouteworksevenbetterwithCheaperInference.

एक एंडपॉइंट। निर्माण कभी न रोकें।

सीमाओं से कभी न टकराएं

95% तक टोकन बचाएं

$0 से शुरू

35 supported integrations

एक एंडपॉइंट

प्रोडक्शन-ग्रेड

All behind one endpoint.

तीन कमांड। कोई config नहीं।

Step 1: Install

Step 2: Run

Step 3: Connect your tool

सब कुछ बिल्ट-इन। कोई ऐड-ऑन नहीं।

स्मार्ट Combos

मेमोरी

3-layer resilience

मुफ़्त कोटा

कंप्रेशन

MCP Server

A2A Protocol

Keep your existing coding tools.

अब आपके VS Code Copilot Chat में

Official Marketplace

Open VSX Registry

Copilot प्लान की ज़रूरत नहीं

OmniRoute क्यों

हम कैसे तुलना करते हैं

9 supported ways to run OmniRoute.

npm

Docker

Desktop

ARM

Android · Termux

PWA

OpenCode plugin

VS Code

From source

Choose an `auto` route.

Drain subscription quota

Spread load

Cheapest first

Context-aware

Randomized

Adaptive scoring

~1.51B मुफ़्त टोकन एक महीने में।

Reduce eligible tokens by 15–95%.

Composable pipeline

Profiles

Controls and output styles

सही स्तर पर विफल हों. पूरी चीज़ नहीं।

Network routing and local data controls.

Three proxy scopes

TLS and client fingerprint controls

Private and local-first

एक पूरा डैशबोर्ड, कोई config फाइल नहीं।

एक एजेंट कनेक्ट करें. वह OmniRoute खुद चलाता है।

MCP Server

A2A Server

Cloud Agents

सिर्फ एक प्रॉक्सी नहीं. एक प्लेटफॉर्म।

एम्बेडेड सर्विसेज़

आपका ज्ञान, context में

Guardrails बिल्ट-इन

गेमिफिकेशन

Setup guides in three languages

🇧🇷 Complete guide · Português

🇺🇸 Complete guide · English

🇷🇺 Complete guide · Русский

एक तेज़-रफ्तार, सक्रिय समुदाय

Public since February 13, 2026

Discord

Telegram

WhatsApp 🌍

WhatsApp 🇧🇷

Choose how you run OmniRoute.