Core control
रिक्वेस्ट चलती रहें
जब कोई टारगेट उपलब्ध न हो या उसका कोटा खत्म हो जाए, OmniRoute अगला हेल्दी टारगेट चुन लेता है।
352 प्रोवाइडर्स पर एक OpenAI-कम्पैटिबल एंडपॉइंट से रूट करें, ऑटोमैटिक फ़ॉलबैक के साथ।
OmniRoute × Cheaper Inference
OmniRoute के ऑटोमैटिक फ़ॉलबैक और डेवलपर टूल्स को Cheaper Inference के कॉस्ट-रैंक्ड मार्केटप्लेस से जोड़ें। हर योग्य रिक्वेस्ट सबसे सस्ते उपलब्ध प्रोवाइडर रूट से शुरू होती है।
| मॉडल | इनपुट प्राइस | आउटपुट प्राइस | बचत | कॉन्टेक्स्ट | विवरण |
|---|---|---|---|---|---|
| gpt-5.6-lunaOpenAI · text | 60% छूट | 1.1M | |||
| gpt-5.6-terraOpenAI · text | 60% छूट | 1.1M | |||
| gpt-oss-120bOpenAI · text | 59.52% छूट | 128K | |||
| deepseek-v4.1-flashDeepSeek · text | 50% छूट | 1.0M | |||
| gpt-5.6-solOpenAI · text | 50% छूट | 1.1M | |||
| glm-4.5Z.ai · text | 45% छूट | 128K | |||
| glm-4.6Z.ai · text | 45% छूट | 198K | |||
| glm-4.7Z.ai · text | 45% छूट | 128K |
मुख्य कंट्रोल
Core control
जब कोई टारगेट उपलब्ध न हो या उसका कोटा खत्म हो जाए, OmniRoute अगला हेल्दी टारगेट चुन लेता है।
Core control
12-इंजन पाइपलाइन योग्य कॉन्टेक्स्ट को 15–95% तक कम करती है। डॉक्यूमेंटेड टूल-हेवी उदाहरण में यह ~89% कम हुआ।
Core control
90+ फ़्री टियर और 56 रिकरिंग या की-लेस फ़्री-फ़ॉरएवर प्रोवाइडर। की-लेस क्विक स्टार्ट के लिए क्रेडिट कार्ड की ज़रूरत नहीं।
Core control
Claude Code, Codex, Cursor, Cline, Copilot, Antigravity और अन्य सपोर्टेड क्लाइंट एक एंडपॉइंट से कॉन्फ़िगर करें।
Core control
/v1 पर OpenAI, Claude, Gemini और Responses API रिक्वेस्ट स्वीकार करें।
Core control
सर्किट ब्रेकर, एन्क्रिप्टेड क्रेडेंशियल, MCP, A2A, मेमोरी, गार्डरेल और इवैल सेल्फ़-होस्टेड गेटवे के साथ आते हैं।
कैटलॉग
चैट, मीडिया, सर्च, लोकल रनटाइम, क्लाउड एजेंट और सिस्टम इंटीग्रेशन तक फैला कैटलॉग।
352 प्रोवाइडर+
इनमें से हर एक, एक ही लोकल एंडपॉइंट के पीछे।
वह एक एंडपॉइंट जिस पर हर क्लाइंट पॉइंट करता हैhttp://localhost:20128/v1
क्विक स्टार्ट
पैकेज इंस्टॉल करें, गेटवे लॉन्च करें, फिर किसी भी OpenAI-कम्पैटिबल क्लाइंट को पोर्ट 20128 पर पॉइंट करें।
omniroute npm पैकेज ग्लोबली इंस्टॉल करें।
$ npm install -g omnirouteadded 1 package
API और डैशबोर्ड को एक साथ पोर्ट 20128 पर लॉन्च करें।
$ omniroute▸ dashboard ✓ http://localhost:20128/dashboard▸ api ...... ✓ serving on :20128
http://localhost:20128/v1 इस्तेमाल करें; की-लेस ऑटो रूट नए इंस्टॉल पर भी काम करता है।
$ curl localhost:20128/v1/models✓ models listed
गेटवे कंट्रोल
फ़ॉलबैक, कोटा, कम्प्रेशन, मेमोरी, MCP और A2A लोकल डैशबोर्ड से कॉन्फ़िगर करें।
Gateway control
मॉडल को auto पर सेट करें या 19 स्ट्रैटेजी और टियर्ड फ़ॉलबैक के साथ अपना कॉम्बो बनाएँ।
कोई रेडीमेड मोड इस्तेमाल करें या अपने ज़रूरी लक्ष्य के आसपास 19 स्ट्रैटेजी जोड़ें।
Gateway control
FTS5 कीवर्ड और Qdrant वेक्टर रिकॉल के साथ परसिस्टेंट कन्वर्सेशनल मेमोरी।
Gateway control
प्रोवाइडर ब्रेकर, कनेक्शन कूलडाउन और मॉडल लॉकआउट फ़ेल्योर को सबसे छोटे उपयोगी स्कोप में अलग रखते हैं।
Gateway control
90+ फ़्री टियर में पूल-डीड्यूप्ड अकाउंटिंग।
प्रकाशित फ़्री-टियर क्षमता, डीड्यूप्लिकेटेड।
Gateway control
टूल आउटपुट, कॉन्टेक्स्ट और रिस्पॉन्स स्टाइल के लिए 12 कम्पोज़ेबल इंजन।
योग्य टोकन 15–95% तक कम करें।
Gateway control
एक बिल्ट-इन सर्वर जो 33 स्कोप में 110 गेटवे टूल एक्सपोज़ करता है।
110 टूल · 33 स्कोप · stdio / HTTP
Gateway control
6 स्किल्स वाला JSON-RPC एजेंट सर्वर।
6 स्किल्स · JSON-RPC 2.0 · Agent Card
Gateway control
दोबारा की गई रिक्वेस्ट कैश से लौट सकती है, और रिस्पॉन्स हेडर बताता है कि इससे क्या बचा।
X-OmniRoute-Cache: HIT
क्लाइंट कम्पैटिबिलिटी
किसी OpenAI-कम्पैटिबल CLI या एडिटर को एक लोकल बेस URL पर पॉइंट करें; पीछे के प्रोवाइडर OmniRoute संभालता है।
http://localhost:20128/v1
curl http://localhost:20128/v1/chat/completions \
-H "Authorization: Bearer $OMNIROUTE_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"auto","messages":[{"role":"user","content":"Hello"}]}'OmniCopilot
OmniCopilot मौजूदा मॉडल पिकर में OmniRoute मॉडल जोड़ता है।
VS Code stable और Insiders में काम करता है। Marketplace या Extensions व्यू से इंस्टॉल करें।
Cursor, Windsurf, VSCodium, Theia, code-server, Gitpod और अन्य कम्पैटिबल एडिटर के लिए।
प्रोवाइडर मॉडल Copilot Chat में OmniRoute के ज़रिए चल सकते हैं, बिना इन्फ़रेंस को Copilot प्लान से रूट किए।
आम समस्याएँ
देखें कि कौन सा कंट्रोल किस आम समस्या को हल करता है।
डॉक्यूमेंटेशन स्नैपशॉट
क्षमताएँ 2026-08-30 को लिंक किए गए प्रोजेक्ट डॉक्यूमेंटेशन से जाँची गईं।
| क्षमता | OmniRoute (नए टैब में खुलता है) | 9Router (नए टैब में खुलता है) | LiteLLM (नए टैब में खुलता है) | CLIProxyAPI (नए टैब में खुलता है) |
|---|---|---|---|---|
| प्रोवाइडर | 352 | 40+ | 100+ | 8+ upstreams |
| रूटिंग स्ट्रैटेजी | 19 | 3-tier | retry / priority | round-robin / fill-first |
| UI के साथ टियर्ड फ़ॉलबैक | Yes | Yes | Manual policy | Multi-account |
| टोकन कम्प्रेशन | 12 engines · 15–95% | RTK / Headroom / Caveman | No built-in pipeline | HTTP compression |
| क्षमता | OmniRoute (नए टैब में खुलता है) | 9Router (नए टैब में खुलता है) | LiteLLM (नए टैब में खुलता है) | CLIProxyAPI (नए टैब में खुलता है) |
|---|---|---|---|---|
| बिल्ट-इन MCP सर्वर | 110 gateway tools | No | MCP client / gateway | No |
| A2A प्रोटोकॉल | Server · 6 skills | No | A2A client / gateway | No |
| क्लाउड एजेंट | Codex / Cursor / Devin / Jules | No | No | Sidecar integrations |
| क्षमता | OmniRoute (नए टैब में खुलता है) | 9Router (नए टैब में खुलता है) | LiteLLM (नए टैब में खुलता है) | CLIProxyAPI (नए टैब में खुलता है) |
|---|---|---|---|---|
| फ़ेल्योर-आइसोलेशन लेयर | 3: provider / connection / model | Cooldown | Cooldown / retry | Cooldown |
| परसिस्टेंट मेमोरी | FTS5 + vector | No | Semantic cache | No |
| गार्डरेल | PII / injection / vision | No | Yes | Cloaking controls |
| इवैल फ़्रेमवर्क | Built in | No | No | No |
| TLS फ़िंगरप्रिंट कंट्रोल | wreq-js | No | No | uTLS |
| क्षमता | OmniRoute (नए टैब में खुलता है) | 9Router (नए टैब में खुलता है) | LiteLLM (नए टैब में खुलता है) | CLIProxyAPI (नए टैब में खुलता है) |
|---|---|---|---|---|
| डैशबोर्ड स्टैक | Next.js 16 | Next.js 16 | Next.js | Next.js / React |
| UI लोकेल | 38 | 10 | Not documented | 3 |
| OAuth प्रोवाइडर | 25 | 6 | SSO | CLI auth |
| सेल्फ़-होस्ट करने योग्य | Yes | Yes | Yes | Yes |
| लाइसेंस | MIT | MIT | MIT + enterprise | MIT |
पब्लिक README और ऑफ़िशियल डॉक्यूमेंटेशन स्नैपशॉट; खरीद या डिप्लॉयमेंट के फ़ैसले से पहले लिंक किए सोर्स सत्यापित करें।
डिप्लॉयमेंट
इसे लैपटॉप, सर्वर या फ़ोन पर इंस्टॉल करें, या किसी सपोर्टेड एडिटर और प्लगइन से कनेक्ट करें।
किसी भी सपोर्टेड डेस्कटॉप OS पर एक कमांड
npm install -g omnirouteगाइड खोलें (नए टैब में खुलता है)मल्टी-आर्क AMD64 और ARM64 इमेज
docker run … diegosouzapw/omnirouteगाइड खोलें (नए टैब में खुलता है)Windows, macOS और Linux पर नेटिव विंडो और सिस्टम ट्रे
npm run electron:buildगाइड खोलें (नए टैब में खुलता है)Raspberry Pi, ARM सर्वर और Apple Silicon
native arm64Android पर बिना root चलता है
pkg install nodejs && npx -y omnirouteगाइड खोलें (नए टैब में खुलता है)फ़ुलस्क्रीन, ऑफ़लाइन-रेडी और ब्राउज़र से इंस्टॉल करने योग्य
Add to Home Screenगाइड खोलें (नए टैब में खुलता है)नेटिव OpenCode प्रोवाइडर प्लगइन
@omniroute/opencode-providerगाइड खोलें (नए टैब में खुलता है)Copilot Chat पिकर में OmniRoute मॉडल
Install OmniCopilotगाइड खोलें (नए टैब में खुलता है)इस पर हैक करें और कॉन्ट्रिब्यूट करें
npm install && npm run devगाइड खोलें (नए टैब में खुलता है)रूटिंग
कोई रेडीमेड मोड इस्तेमाल करें या अपने ज़रूरी लक्ष्य के आसपास 19 स्ट्रैटेजी जोड़ें।
autoBalanced defaultcurl http://localhost:20128/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model":"auto","messages":[{"role":"user","content":"Write a TypeScript retry helper."}]}'Routing alias auto selected. Objective: Balanced default. Fallback enabled.
पेड API छूने से पहले अपना मौजूदा कोटा इस्तेमाल करें।
priority · fill-firstरेट-लिमिट का दबाव कम करने के लिए ट्रैफ़िक कीज़ और अकाउंट्स में बैलेंस करें।
weighted · round-robin · p2c · least-used · headroomसबसे कम कॉस्ट वाले योग्य टारगेट पर रूट करें।
cost-optimizedलंबे कॉन्टेक्स्ट उन मॉडल पर रखें जो फ़िट हों, फिर ज़रूरत पर रिले करें।
context-relay · context-optimized · cache-optimizedयोग्य ट्रैफ़िक को टारगेट्स में बाँटें।
random · strict-random15-फ़ैक्टर स्कोरिंग, लास्ट-नोन-गुड और रीसेट-अवेयर विंडो इस्तेमाल करें।
reset-window · reset-aware · lkgp · auto · fusion · pipelineफ़्री-टियर अकाउंटिंग
455 कैटलॉग एंट्री 40 रिकरिंग पूल में डीड्यूप्लिकेट होती हैं; सिर्फ़ प्रकाशित पॉज़िटिव बजट ही हेडलाइन में गिने जाते हैं।
1.51B
पूल-डीड्यूप्ड अकाउंटिंग शेयर्ड कोटा को एक से ज़्यादा बार गिनने से रोकती है। नो-कैप प्रोवाइडर टोकन टोटल बढ़ाए बिना दिखते रहते हैं। Checked 2026-08-30.
गणना देखें (नए टैब में खुलता है)कॉन्टेक्स्ट कम्प्रेशन
टूल आउटपुट, दोहराया कॉन्टेक्स्ट और भारी स्ट्रक्चर्ड डेटा मॉडल तक पहुँचने से पहले कम्प्रेस हो सकते हैं।
योग्य टोकन पर कॉन्टेक्स्ट 15–95% से कम हुआटोकन
पहले: The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total. बाद में: sum all list items where value > 0
वही इंस्ट्रक्शन। पैसे देने के लिए कम कॉन्टेक्स्ट।
The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total.sum all list items where value > 0x-omniroute-compression: standardStandard कम्प्रेशन चुना गया। प्रकाशित रेंज ~30%।
कंट्रोल प्रायोरिटी: रिक्वेस्ट हेडर → कॉम्बो → प्रोफ़ाइल → अडैप्टिव पॉलिसी → डिफ़ॉल्ट।
फ़ेल्योर आइसोलेशन
एक ख़राब की पूरे प्रोवाइडर को नहीं गिराना चाहिए। एक लिमिटेड मॉडल पूरे कनेक्शन को नहीं गिराना चाहिए।
नेटवर्क कंट्रोल
प्रॉक्सी स्कोप नेटवर्क रूटिंग कंट्रोल करते हैं जबकि लोकल-फ़र्स्ट स्टोरेज ऑपरेशनल डेटा आपकी मशीन पर रखता है।
ग्लोबली, प्रति प्रोवाइडर या प्रति कनेक्शन रूट करें।
सपोर्टेड प्रोवाइडर क्लाइंट्स से चुनी गई ट्रांसपोर्ट विशेषताओं तक मैच करें।
कीज़, यूसेज और हिस्ट्री आपके कंट्रोल वाले होस्ट पर रहती हैं।
लोकल डैशबोर्ड
localhost:20128/dashboard पर प्रोवाइडर, कॉम्बो, एनालिटिक्स, हेल्थ और कॉस्ट मैनेज करें।
एजेंट प्रोटोकॉल
OmniRoute अपना गेटवे MCP क्लाइंट, A2A नेटवर्क और सपोर्टेड क्लाउड कोडिंग एजेंट के लिए एक्सपोज़ कर सकता है।
stdio और HTTP ट्रांसपोर्ट पर 33 स्कोप में 110 टूल।
110 टूल · 33 स्कोप · stdio / HTTP
claude mcp add omniroute --type http --url http://localhost:20128/api/mcp/streamJSON-RPC 2.0 पर स्मार्ट रूटिंग, कोटा, डिस्कवरी, कॉस्ट एनालिसिस और हेल्थ रिपोर्टिंग के लिए 6 स्किल्स।
6 स्किल्स · JSON-RPC 2.0 · Agent Card
सपोर्टेड Codex, Cursor, Devin और Jules वर्कफ़्लो को एक ऑर्केस्ट्रेशन सरफ़ेस से कनेक्ट करें।
Codex · Cursor · Devin · Jules
अतिरिक्त सेवाएँ
Bifrost, 9Router या CLIProxy को मैनेज्ड साइडकार के रूप में चलाएँ, या पूरा क्लस्टर प्रोफ़ाइल ऑपरेट करें।
Notion और Obsidian को MCP-आधारित कॉन्टेक्स्ट सोर्स के रूप में कनेक्ट करें।
प्रॉम्प्ट-इंजेक्शन जाँच, ऑप्ट-इन PII रिडैक्शन और नॉर्मलाइज़्ड सेफ़्टी फ़िल्टर, बिना प्रोवाइडर लॉक-इन।
ऑपरेशनल एनालिटिक्स के साथ स्ट्रीक, अचीवमेंट और लाइव बचत ट्रैक करें।
कम्युनिटी से
देखें कि डेवलपर X, Reddit और YouTube पर क्या बना रहे, पूछ रहे और शेयर कर रहे हैं।
32 चैनलों से 32 वीडियोसभी 32 कम्युनिटी वीडियो देखें
I've been experimenting with Kiro Pro, and I found a setup that gives me the Claude Code CLI experience while using my Kiro subscription.
Been 3 days with omniroute and it is amazing.
25 posts from X · 25 Reddit postsहर पोस्ट देखें
खुले में बना
चेक-इन किए GitHub स्नैपशॉट से स्टार, फ़ोर्क, कॉन्ट्रिब्यूटर और रिलीज़ देखें।
2026-10-16 का स्नैपशॉट
चैट, सपोर्ट और रोडमैप
(नए टैब में खुलता है)न्यूज़ और घोषणाएँ
(नए टैब में खुलता है)ग्लोबल कम्युनिटी
(नए टैब में खुलता है)Comunidade Brasil
(नए टैब में खुलता है)OmniRoute by Cheaper Inference
OmniRoute सेल्फ़-होस्ट करें, या होस्टेड कॉस्ट-रैंक्ड गेटवे के लिए Cheaper Inference से शुरू करें।