OmniRouteby Cheaper Inference
OmniRoute ఇప్పుడు Cheaper Inference లో చేరిందిCheaper Inference ను అన్వేషించండి

#1 ఓపెన్ సోర్స్ AI రూటర్

ఒకే OpenAI-అనుకూల ఎండ్‌పాయింట్ ద్వారా 352 ప్రొవైడర్లకు రూట్ చేయండి, ఆటోమేటిక్ ఫాల్‌బ్యాక్‌తో.

Cheaper Inference ప్రయత్నించండిOmniRoute సెల్ఫ్-హోస్ట్ చేయండి (కొత్త ట్యాబ్‌లో తెరుచుకుంటుంది)
OpenAI-అనుకూలం ఫ్రీ మరియు ఓపెన్ సోర్స్77.5k స్టార్లు (కొత్త ట్యాబ్‌లో తెరుచుకుంటుంది)

OmniRoute × Cheaper Inference

OmniRoute ఆటోమేటిక్ ఫాల్‌బ్యాక్ మరియు డెవలపర్ టూల్స్‌ను Cheaper Inference కాస్ట్-ర్యాంక్డ్ మార్కెట్‌ప్లేస్‌తో కలపండి. ప్రతి అర్హ రిక్వెస్ట్ అందుబాటులో ఉన్న అతి చౌక ప్రొవైడర్ రూట్‌తో మొదలవుతుంది.

97 మోడల్స్డైరెక్ట్ లిస్ట్ ధరను Cheaper Inference ధరతో పోల్చినది
మోడల్ వారీగా డైరెక్ట్ లిస్ట్ ధరలను Cheaper Inference ధరలతో పోల్చినది
మోడల్ఇన్‌పుట్ ధరఅవుట్‌పుట్ ధరఆదాకాంటెక్స్ట్వివరాలు
gpt-5.6-lunaOpenAI · text$0.20$0.08/ 1M tokens$1.20$0.48/ 1M tokens60% తగ్గింపు1.1M
gpt-5.6-terraOpenAI · text$2.00$0.80/ 1M tokens$12.00$4.80/ 1M tokens60% తగ్గింపు1.1M
gpt-oss-120bOpenAI · text$0.10$0.040483/ 1M tokens$0.50$0.202417/ 1M tokens59.52% తగ్గింపు128K
deepseek-v4.1-flashDeepSeek · text$0.15$0.075/ 1M tokens$0.60$0.30/ 1M tokens50% తగ్గింపు1.0M
gpt-5.6-solOpenAI · text$4.00$2.00/ 1M tokens$20.00$10.00/ 1M tokens50% తగ్గింపు1.1M
glm-4.5Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45% తగ్గింపు128K
glm-4.6Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45% తగ్గింపు198K
glm-4.7Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45% తగ్గింపు128K
97 లో 8 మోడల్స్ చూపుతున్నాం
డైరెక్ట్ లిస్ట్ ధర → Cheaper Inference ధర · ప్రతి మోడల్ బ్రౌజ్ చేయండి · లైవ్ కేటలాగ్ చూడండి (కొత్త ట్యాబ్‌లో తెరుచుకుంటుంది)ధరలు 14, అక్టో 2026 2:00 PM UTC న సరిచూశాం. అప్‌స్ట్రీమ్ ధరలు లేదా అందుబాటు రూట్లు మారితే రేట్లు మారవచ్చు.

ప్రధాన కంట్రోల్స్

మీరు కాన్ఫిగర్ చేసిన ప్రొవైడర్లకు ఒకే ఎండ్‌పాయింట్.

Core control

రిక్వెస్ట్‌లు ఆగకుండా ఉంచండి

ఒక టార్గెట్ అందుబాటులో లేకపోతే లేదా కోటా అయిపోతే, OmniRoute తదుపరి ఆరోగ్యకరమైన టార్గెట్‌ను ఎంచుకుంటుంది.

Core control

అర్హ కాంటెక్స్ట్‌ను కంప్రెస్ చేయండి

12-ఇంజిన్ పైప్‌లైన్ అర్హ కాంటెక్స్ట్‌ను 15–95% తగ్గిస్తుంది. డాక్యుమెంట్ చేసిన టూల్-హెవీ ఉదాహరణలో ~89% తగ్గింది.

Core control

$0 తో ప్రారంభం

90+ ఫ్రీ టైర్లు మరియు 56 రికరింగ్ లేదా కీలెస్ ఫ్రీ-ఫరెవర్ ప్రొవైడర్లు. కీలెస్ క్విక్ స్టార్ట్‌కు క్రెడిట్ కార్డ్ అవసరం లేదు.

Core control

35 సపోర్టెడ్ ఇంటిగ్రేషన్లు

Claude Code, Codex, Cursor, Cline, Copilot, Antigravity మరియు ఇతర సపోర్టెడ్ క్లయింట్లను ఒకే ఎండ్‌పాయింట్ ద్వారా కాన్ఫిగర్ చేయండి.

Core control

ఒకే ఎండ్‌పాయింట్

OpenAI, Claude, Gemini మరియు Responses API రిక్వెస్ట్‌లను /v1 లో స్వీకరించండి.

Core control

ఆపరేషనల్ కంట్రోల్స్

సర్క్యూట్ బ్రేకర్లు, ఎన్‌క్రిప్టెడ్ క్రెడెన్షియల్స్, MCP, A2A, మెమరీ, గార్డ్‌రెయిల్స్ మరియు ఈవాల్స్ సెల్ఫ్-హోస్టెడ్ గేట్‌వేతో వస్తాయి.

కేటలాగ్

అన్నీ ఒకే ఎండ్‌పాయింట్ వెనుక.

చాట్, మీడియా, సెర్చ్, లోకల్ రన్‌టైమ్‌లు, క్లౌడ్ ఏజెంట్లు మరియు సిస్టమ్ ఇంటిగ్రేషన్లను కవర్ చేసే కేటలాగ్.

352 ప్రొవైడర్లు

అన్నీ, ఒకే లోకల్ ఎండ్‌పాయింట్ వెనుక.

ప్రతి క్లయింట్ పాయింట్ చేసే ఒకే ఎండ్‌పాయింట్http://localhost:20128/v1

14 Search12 Audio-only2 Upstream proxy3 Cloud agent1 System
OpenAIAnthropicGoogleDeepSeekxAIZ.aiMoonshotMiniMaxAlibabaMetaBytedanceAion Labs
25OAuthClaude Code, Codex, Cursor, GitHub Copilot, Kimi Code…
233API కీOpenAI, Anthropic, Groq, NVIDIA, Cerebras, Mistral…
35వెబ్ కుకీChatGPT Web, Claude Web, Gemini Web, Grok Web…
14లోకల్Ollama, LM Studio, vLLM, llama.cpp…
13ఆథెంటికేషన్ లేదుOpenCode Free, Felo, Pollinations మరియు ఇతర కీలెస్ రూట్లు…
ప్రొవైడర్ రిఫరెన్స్ చూడండి (opens in a new tab)

క్విక్ స్టార్ట్

ఇన్‌స్టాల్, రన్, కనెక్ట్.

ప్యాకేజీ ఇన్‌స్టాల్ చేసి, గేట్‌వే లాంచ్ చేసి, ఏదైనా OpenAI-అనుకూల క్లయింట్‌ను పోర్ట్ 20128 కు పాయింట్ చేయండి.

ప్రొవైడర్ కేటలాగ్
352
రూటింగ్ స్ట్రాటజీలు
19
లోకల్ ఎండ్‌పాయింట్
:20128/v1

Step 1: ఇన్‌స్టాల్

omniroute npm ప్యాకేజీని గ్లోబల్‌గా ఇన్‌స్టాల్ చేయండి.

omniroute: install
$ npm install -g omnirouteadded 1 package

Step 2: రన్

API మరియు డాష్‌బోర్డ్‌ను కలిపి పోర్ట్ 20128 లో లాంచ్ చేయండి.

omniroute: run
$ omniroute▸ dashboard ✓ http://localhost:20128/dashboard▸ api ...... ✓ serving on :20128

Step 3: మీ టూల్‌ను కనెక్ట్ చేయండి

http://localhost:20128/v1 వాడండి; కీలెస్ ఆటో రూట్ కొత్త ఇన్‌స్టాల్‌లో పని చేస్తుంది.

omniroute: connect
$ curl localhost:20128/v1/models✓ models listed

గేట్‌వే కంట్రోల్స్

ప్రధాన గేట్‌వే కంట్రోల్స్ ఒకే ప్రాసెస్‌లో.

ఫాల్‌బ్యాక్, కోటా, కంప్రెషన్, మెమరీ, MCP మరియు A2A ను లోకల్ డాష్‌బోర్డ్ నుండి కాన్ఫిగర్ చేయండి.

Gateway control

స్మార్ట్ కాంబోలు

మోడల్‌ను auto కు సెట్ చేయండి లేదా 19 స్ట్రాటజీలు మరియు టైర్డ్ ఫాల్‌బ్యాక్‌తో మీ సొంత కాంబో నిర్మించండి.

రెడీమేడ్ మోడ్ వాడండి లేదా మీకు ముఖ్యమైన లక్ష్యం చుట్టూ 19 స్ట్రాటజీలను కలపండి.

Gateway control

మెమరీ

FTS5 కీవర్డ్ మరియు Qdrant వెక్టర్ రీకాల్‌తో పర్సిస్టెంట్ సంభాషణ మెమరీ.

Gateway control

3-లేయర్ రెసిలియన్స్

ప్రొవైడర్ బ్రేకర్, కనెక్షన్ కూల్‌డౌన్ మరియు మోడల్ లాకౌట్ వైఫల్యాలను అతి చిన్న ఉపయోగకర పరిధిలో ఐసొలేట్ చేస్తాయి.

Gateway control

ఫ్రీ కోటా

90+ ఫ్రీ టైర్లలో పూల్-డీడ్యూప్ చేసిన అకౌంటింగ్.

ప్రకటించిన ఫ్రీ-టైర్ కెపాసిటీ, డీడ్యూప్లికేట్ చేసినది.

Gateway control

కంప్రెషన్

టూల్ అవుట్‌పుట్, కాంటెక్స్ట్ మరియు రెస్పాన్స్ స్టైల్ కోసం 12 కంపోజబుల్ ఇంజిన్లు.

అర్హ టోకెన్లను 15–95% తగ్గించండి.

Gateway control

MCP సర్వర్

33 స్కోప్‌లలో 110 గేట్‌వే టూల్స్‌ను అందించే బిల్ట్-ఇన్ సర్వర్.

110 టూల్స్ · 33 స్కోప్‌లు · stdio / HTTP

Gateway control

A2A ప్రోటోకాల్

6 స్కిల్స్‌తో JSON-RPC ఏజెంట్ సర్వర్.

6 స్కిల్స్ · JSON-RPC 2.0 · Agent Card

Gateway control

సెమాంటిక్ కాష్

పునరావృత రిక్వెస్ట్ కాష్ నుండి తిరిగి రావచ్చు, రెస్పాన్స్ హెడర్ ఎంత ఆదా అయిందో తెలియజేస్తుంది.

X-OmniRoute-Cache: HIT

క్లయింట్ అనుకూలత

మీ ప్రస్తుత కోడింగ్ టూల్స్‌ను ఉంచుకోండి.

OpenAI-అనుకూల CLI లేదా ఎడిటర్‌ను ఒకే లోకల్ బేస్ URL కు పాయింట్ చేయండి; వెనుక ఉన్న ప్రొవైడర్లను OmniRoute చూసుకుంటుంది.

Claude Code
Codex CLI
Cursor
Cline
GitHub Copilot
Gemini CLI
OpenCode
Kilo Code
Factory Droid
Continue
Roo Code
Antigravity
Aider
OpenClaw
Goose
Grok Build
Windsurf
Devin CLI

http://localhost:20128/v1

request.sh
curl http://localhost:20128/v1/chat/completions \
  -H "Authorization: Bearer $OMNIROUTE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Hello"}]}'

OmniCopilot

Copilot Chat లో OmniRoute మోడల్స్ వాడండి.

OmniCopilot ప్రస్తుత మోడల్ పికర్‌కు OmniRoute మోడల్స్‌ను జోడిస్తుంది.

అధికారిక Marketplace

VS Code stable మరియు Insiders లో పని చేస్తుంది. Marketplace లేదా Extensions వ్యూ నుండి ఇన్‌స్టాల్ చేయండి.

Open VSX Registry

Cursor, Windsurf, VSCodium, Theia, code-server, Gitpod మరియు ఇతర అనుకూల ఎడిటర్ల కోసం.

Copilot ప్లాన్ అవసరం లేదు

Copilot ప్లాన్ ద్వారా ఇన్ఫరెన్స్ రూట్ చేయకుండా, ప్రొవైడర్ మోడల్స్ OmniRoute ద్వారా Copilot Chat లో రన్ అవుతాయి.

VS Code Marketplace (కొత్త ట్యాబ్‌లో తెరుచుకుంటుంది)Open VSX Registry (కొత్త ట్యాబ్‌లో తెరుచుకుంటుంది)OmniCopilot source (కొత్త ట్యాబ్‌లో తెరుచుకుంటుంది)

సాధారణ ఫెయిల్యూర్ మోడ్‌లు

OmniRoute ఎందుకు

ప్రతి సాధారణ ఫెయిల్యూర్ మోడ్‌ను ఏ కంట్రోల్ పరిష్కరిస్తుందో చూడండి.

Without routing
With OmniRoute
కోటా వాడకుండా ముగుస్తుంది
మీకు ఇప్పటికే ఉన్న అలవెన్స్‌ను ట్రాక్ చేసి వాడుకోండి
రేట్ లిమిట్లు మధ్యలో పనిని ఆపుతాయి
మిల్లీసెకన్లలో 4-టైర్ ఆటో-ఫాల్‌బ్యాక్
టూల్ అవుట్‌పుట్ టోకెన్లను తినేస్తుంది
12-ఇంజిన్ కంప్రెషన్, అర్హ కంటెంట్‌పై 15–95%
ఖరీదైన API లు ఖర్చు పెంచుతాయి
కాస్ట్-ఆప్టిమైజ్డ్ రూటింగ్ అతి చౌక అర్హ టార్గెట్‌ను ఎంచుకోగలదు
ప్రతి టూల్‌కు సొంత సెటప్ కావాలి
ఒకే ఎండ్‌పాయింట్, ఒకే డాష్‌బోర్డ్
మీ నెట్‌వర్క్ నుండి ఒక ప్రొవైడర్ అందుబాటులో లేదు
ప్రాక్సీ స్కోప్‌లు మరియు క్లయింట్-ఫింగర్‌ప్రింట్ కంట్రోల్స్
ఒక డెడ్ కీ ప్రొవైడర్‌ను విరిచేస్తుంది
బ్రేకర్, కూల్‌డౌన్ మరియు లాకౌట్ వైఫల్యాన్ని ఐసొలేట్ చేస్తాయి
ఒక టీమ్ ఒకే సబ్‌స్క్రిప్షన్ పంచుకుంటుంది
కీ పూల్స్ మరియు ఫెయిర్-షేర్ కోటాలు
రూటింగ్ డేటాపై మీకు లోకల్ కంట్రోల్ కావాలి
ఎన్‌క్రిప్టెడ్ క్రెడెన్షియల్స్‌తో లోకల్-ఫర్స్ట్ స్టోరేజ్
ఖర్చు లేదా హెల్త్ విజిబిలిటీ లేదు
వినియోగం, కోటా, ఆదా మరియు లేటెన్సీ అనలిటిక్స్

డాక్యుమెంటేషన్ స్నాప్‌షాట్

గేట్‌వేల పోలిక

2026-08-30 న లింక్ చేసిన ప్రాజెక్ట్ డాక్యుమెంటేషన్‌తో సరిచూసిన సామర్థ్యాలు.

సామర్థ్యంOmniRoute (కొత్త ట్యాబ్‌లో తెరుచుకుంటుంది)9Router (కొత్త ట్యాబ్‌లో తెరుచుకుంటుంది)LiteLLM (కొత్త ట్యాబ్‌లో తెరుచుకుంటుంది)CLIProxyAPI (కొత్త ట్యాబ్‌లో తెరుచుకుంటుంది)
ప్రొవైడర్లు35240+100+8+ upstreams
రూటింగ్ స్ట్రాటజీలు193-tierretry / priorityround-robin / fill-first
UI తో టైర్డ్ ఫాల్‌బ్యాక్YesYesManual policyMulti-account
టోకెన్ కంప్రెషన్12 engines · 15–95%RTK / Headroom / CavemanNo built-in pipelineHTTP compression

పబ్లిక్ README మరియు అధికారిక డాక్యుమెంటేషన్ స్నాప్‌షాట్; కొనుగోలు లేదా డిప్లాయ్‌మెంట్ నిర్ణయాల ముందు లింక్ చేసిన సోర్స్‌లను ధృవీకరించండి.

డిప్లాయ్‌మెంట్

OmniRoute రన్ చేయడానికి 9 సపోర్టెడ్ మార్గాలు.

ల్యాప్‌టాప్, సర్వర్ లేదా ఫోన్‌లో ఇన్‌స్టాల్ చేయండి, లేదా సపోర్టెడ్ ఎడిటర్ మరియు ప్లగిన్ ద్వారా కనెక్ట్ అవ్వండి.

npm

ఏ సపోర్టెడ్ డెస్క్‌టాప్ OS లోనైనా ఒకే కమాండ్

npm install -g omnirouteగైడ్ తెరవండి (కొత్త ట్యాబ్‌లో తెరుచుకుంటుంది)

Docker

మల్టీ-ఆర్క్ AMD64 మరియు ARM64 ఇమేజ్

docker run … diegosouzapw/omnirouteగైడ్ తెరవండి (కొత్త ట్యాబ్‌లో తెరుచుకుంటుంది)

Desktop

Windows, macOS మరియు Linux లో నేటివ్ విండో మరియు సిస్టమ్ ట్రే

npm run electron:buildగైడ్ తెరవండి (కొత్త ట్యాబ్‌లో తెరుచుకుంటుంది)

ARM

Raspberry Pi, ARM సర్వర్లు మరియు Apple Silicon

native arm64

Android · Termux

Android లో రూట్ లేకుండా రన్ అవుతుంది

pkg install nodejs && npx -y omnirouteగైడ్ తెరవండి (కొత్త ట్యాబ్‌లో తెరుచుకుంటుంది)

PWA

ఫుల్‌స్క్రీన్, ఆఫ్‌లైన్-రెడీ మరియు బ్రౌజర్ నుండి ఇన్‌స్టాల్ చేయవచ్చు

Add to Home Screenగైడ్ తెరవండి (కొత్త ట్యాబ్‌లో తెరుచుకుంటుంది)

OpenCode plugin

నేటివ్ OpenCode ప్రొవైడర్ ప్లగిన్

@omniroute/opencode-providerగైడ్ తెరవండి (కొత్త ట్యాబ్‌లో తెరుచుకుంటుంది)

VS Code

Copilot Chat పికర్‌లో OmniRoute మోడల్స్

Install OmniCopilotగైడ్ తెరవండి (కొత్త ట్యాబ్‌లో తెరుచుకుంటుంది)

From source

కోడ్‌పై పని చేసి కంట్రిబ్యూట్ చేయండి

npm install && npm run devగైడ్ తెరవండి (కొత్త ట్యాబ్‌లో తెరుచుకుంటుంది)

రూటింగ్

ఆటో రూట్ ఎంచుకోండి.

రెడీమేడ్ మోడ్ వాడండి లేదా మీకు ముఖ్యమైన లక్ష్యం చుట్టూ 19 స్ట్రాటజీలను కలపండి.

మోడల్ · ఫాల్‌బ్యాక్ ఆన్autoBalanced default
OpenAI-అనుకూల రిక్వెస్ట్
curl http://localhost:20128/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Write a TypeScript retry helper."}]}'

Routing alias auto selected. Objective: Balanced default. Fallback enabled.

సబ్‌స్క్రిప్షన్ కోటా వాడుకోండి

పెయిడ్ API లను తాకే ముందు మీకు ఇప్పటికే ఉన్న కోటా వాడండి.

priority · fill-first

లోడ్ పంచండి

రేట్-లిమిట్ ఒత్తిడి తగ్గించడానికి ట్రాఫిక్‌ను కీలు మరియు అకౌంట్ల మధ్య బ్యాలెన్స్ చేయండి.

weighted · round-robin · p2c · least-used · headroom

చౌకైనది ముందు

అతి తక్కువ ఖర్చు అర్హ టార్గెట్‌కు రూట్ చేయండి.

cost-optimized

కాంటెక్స్ట్-అవేర్

పొడవైన కాంటెక్స్ట్‌లను సరిపోయే మోడల్స్‌పై ఉంచి, అవసరమైతే రిలే చేయండి.

context-relay · context-optimized · cache-optimized

రాండమైజ్డ్

అర్హ ట్రాఫిక్‌ను టార్గెట్ల మధ్య పంపిణీ చేయండి.

random · strict-random

అడాప్టివ్ స్కోరింగ్

15-ఫ్యాక్టర్ స్కోరింగ్, లాస్ట్-నోన్-గుడ్ మరియు రీసెట్-అవేర్ విండోలు వాడండి.

reset-window · reset-aware · lkgp · auto · fusion · pipeline

ఫ్రీ-టైర్ అకౌంటింగ్

ప్రకటించిన ఫ్రీ-టైర్ కెపాసిటీ, డీడ్యూప్లికేట్ చేసినది.

455 కేటలాగ్ ఎంట్రీలు 40 రికరింగ్ పూల్స్‌గా డీడ్యూప్లికేట్ చేయబడ్డాయి; ప్రకటించిన పాజిటివ్ బడ్జెట్లే హెడ్‌లైన్‌లో లెక్కకు వస్తాయి.

1.51B

పూల్-డీడ్యూప్ అకౌంటింగ్ షేర్డ్ కోటాలను ఒకటికి మించి లెక్కించకుండా చూస్తుంది. నో-క్యాప్ ప్రొవైడర్లు టోకెన్ మొత్తాన్ని పెంచకుండా కనిపిస్తూ ఉంటాయి. Checked 2026-08-30.

లెక్క చూడండి (కొత్త ట్యాబ్‌లో తెరుచుకుంటుంది)
రికరింగ్ లేదా కీలెస్ ఫ్రీ-ఫరెవర్ ప్రొవైడర్లు56
  • Mistral1B/month
  • LLM7150M/month
  • Nara150M/month
  • Gemini CLI · forever60M/month
  • Kiro50 credits/month
  • Qoder · foreverFree catalog
  • LongCat · forever50M/day
  • Cerebras1M/day
  • NVIDIA NIM~40 RPM
  • Pollinations · foreverNo key
  • Cloudflare Workers AI · foreverDaily neurons
  • OpenCode Free · foreverNo-auth catalog

కాంటెక్స్ట్ కంప్రెషన్

అర్హ టోకెన్లను 15–95% తగ్గించండి.

టూల్ అవుట్‌పుట్, పునరావృత కాంటెక్స్ట్ మరియు పెరిగిన స్ట్రక్చర్డ్ డేటాను మోడల్‌కు చేరే ముందే కంప్రెస్ చేయవచ్చు.

అర్హ టోకెన్లపై 15–95% నుండి కాంటెక్స్ట్ తగ్గింది

ముందు: The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total. తర్వాత: sum all list items where value > 0

  1. Session-Dedup
  2. CCR
  3. Lite
  4. RTK
  5. Responses Tool Output
  6. Headroom
  7. Relevance
  8. Caveman
  9. Aggressive
  10. LLMLingua-2
  11. Ultra
  12. OmniGlyph

అదే ఇన్‌స్ట్రక్షన్. చెల్లించాల్సిన కాంటెక్స్ట్ తక్కువ.

ముందు69 tokens
The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total.
తర్వాత19 tokens
sum all list items where value > 0

కంపోజబుల్ పైప్‌లైన్

  1. Session-Dedup
    సెషన్‌లో ముందే పంపిన కంటెంట్‌ను తీసేయండి.
  2. CCR
    పెద్ద బ్లాక్‌లను ఆర్కైవ్ చేసి అవసరమైనప్పుడు తిరిగి తెచ్చుకోండి.
  3. Lite
    జాగ్రత్తగా లాస్‌లెస్ క్లీనప్ చేయండి.
  4. RTK
    కమాండ్ మరియు టూల్ అవుట్‌పుట్‌ను ఫిల్టర్ చేసి డీడ్యూప్లికేట్ చేయండి.
  5. Responses Tool Output
    Responses API టూల్ పేలోడ్‌లను కాంపాక్ట్ చేయండి.
  6. Headroom
    రివర్సిబుల్ టేబులర్ మరియు స్ట్రక్చర్డ్-డేటా కాంపాక్షన్ చేయండి.
  7. Relevance
    తాజా క్వెరీకి అత్యంత సంబంధిత వాక్యాలను ఉంచండి.
  8. Caveman
    రూల్-బేస్డ్ వచన సంక్షిప్తీకరణ వాడండి.
  9. Aggressive
    బలమైన కాన్ఫిగర్ చేసిన ప్రూనింగ్ చేయండి.
  10. LLMLingua-2
    ఐసొలేటెడ్ వర్కర్‌లో కోడ్-సేఫ్ సెమాంటిక్ ప్రూనింగ్ వాడండి.
  11. Ultra
    అధిక-ఆదా స్టేజ్‌లను ప్రిజర్వేషన్ గార్డ్‌లతో కలపండి.
  12. OmniGlyph
    అర్హ పునరావృత స్ట్రక్చర్లను కాంపాక్ట్‌గా ఎన్‌కోడ్ చేయండి.

ప్రొఫైల్స్

ప్రకటించిన ప్రొఫైల్ రేంజ్~30%x-omniroute-compression: standard

Standard కంప్రెషన్ ఎంచుకున్నారు. ప్రకటించిన రేంజ్ ~30%.

కంట్రోల్స్ మరియు అవుట్‌పుట్ స్టైల్స్

  • నేమ్డ్ ప్రొఫైల్స్ మరియు యాక్టివ్ సెలెక్టర్
  • విజువల్ Compression Studio
  • Anthropic Context Editing
  • అడాప్టివ్ కాంటెక్స్ట్-బడ్జెట్ డయల్
  • రిక్వెస్ట్ వారీ \
  • హెడర్
  • ఆఫ్‌లైన్ ఈవాల్ హార్నెస్
  • టోకెన్-థ్రెషోల్డ్ ఆటో-ట్రిగర్
  • Terse prose
  • Less code (YAGNI)
  • Terse CJK 文言

కంట్రోల్ ప్రాధాన్యత: రిక్వెస్ట్ హెడర్ → కాంబో → ప్రొఫైల్ → అడాప్టివ్ పాలసీ → డిఫాల్ట్.

ఫెయిల్యూర్ ఐసొలేషన్

ప్రొవైడర్, కనెక్షన్ మరియు మోడల్ వైఫల్యాలను ఐసొలేట్ చేయండి.

ఒక చెడ్డ కీ ప్రొవైడర్‌ను ఆపకూడదు. లిమిట్ అయిన మోడల్ కనెక్షన్‌ను ఆపకూడదు.

మోడల్ ⊂ కనెక్షన్ ⊂ ప్రొవైడర్
ప్రొవైడర్ సర్క్యూట్ బ్రేకర్ప్రొవైడర్ అనారోగ్యంగా ఉంటే, హాఫ్-ఓపెన్ ప్రోబ్ విజయవంతం అయ్యేదాకా కాంబో రూటింగ్ దాన్ని దాటవేస్తుంది.
కనెక్షన్ కూల్‌డౌన్ఒక కీ లేదా అకౌంట్‌ను కూల్ డౌన్ చేయండి, సిబ్లింగ్ కనెక్షన్లు సర్వ్ చేస్తూనే ఉంటాయి.
మోడల్ లాకౌట్రేట్-లిమిట్ అయిన లేదా అందుబాటులో లేని ఒక మోడల్‌ను లాక్ చేయండి, కనెక్షన్‌లోని ఇతర మోడల్స్ అందుబాటులో ఉంటాయి.

నెట్‌వర్క్ కంట్రోల్స్

నెట్‌వర్క్ రూటింగ్ మరియు లోకల్ డేటా కంట్రోల్స్.

ప్రాక్సీ స్కోప్‌లు నెట్‌వర్క్ రూటింగ్‌ను నియంత్రిస్తాయి, లోకల్-ఫర్స్ట్ స్టోరేజ్ ఆపరేషనల్ డేటాను మీ మెషీన్‌లోనే ఉంచుతుంది.

మూడు ప్రాక్సీ స్కోప్‌లు

గ్లోబల్‌గా, ప్రొవైడర్ వారీగా లేదా కనెక్షన్ వారీగా రూట్ చేయండి.

  • గ్లోబల్ · ప్రొవైడర్ వారీ · కనెక్షన్ వారీ
  • SOCKS5 మరియు HTTP(S) ప్రాక్సీలు
  • ప్రాక్సీ మార్కెట్‌ప్లేస్ ఇంటిగ్రేషన్

TLS మరియు క్లయింట్ ఫింగర్‌ప్రింట్ కంట్రోల్స్

సపోర్టెడ్ ప్రొవైడర్ క్లయింట్లను ఎంచుకున్న ట్రాన్స్‌పోర్ట్ లక్షణాల వరకు మ్యాచ్ చేయండి.

  • wreq-js ద్వారా JA3/JA4-సామర్థ్య ట్రాన్స్‌పోర్ట్
  • ప్రొవైడర్-నిర్దిష్ట క్లయింట్ ప్రొఫైల్స్
  • IPv4 మరియు IPv6 ఈగ్రెస్ కంట్రోల్స్

ప్రైవేట్ మరియు లోకల్-ఫర్స్ట్

కీలు, వినియోగం మరియు హిస్టరీ మీ నియంత్రణలోని హోస్ట్‌లోనే ఉంటాయి.

  • AES-256-GCM ఎన్‌క్రిప్టెడ్ క్రెడెన్షియల్స్‌తో డిస్క్‌పై SQLite
  • OmniRoute అకౌంట్ అవసరం లేదు
  • మీరు ఎంచుకున్న ఇన్‌ఫ్రాస్ట్రక్చర్‌లో సెల్ఫ్-హోస్ట్ చేయండి
రష్యాచైనాఇరాన్క్యూబాతుర్కియే

లోకల్ డాష్‌బోర్డ్

YAML ఎడిట్ చేయకుండా OmniRoute కాన్ఫిగర్ చేయండి.

localhost:20128/dashboard లో ప్రొవైడర్లు, కాంబోలు, అనలిటిక్స్, హెల్త్ మరియు ఖర్చులను నిర్వహించండి.

localhost:20128/dashboardఉదాహరణ డేటా
352ప్రొవైడర్లు కనెక్ట్ అయ్యాయి
90+ఫ్రీ టైర్లు అందుబాటులో
198ఈ ఉదాహరణలో హెల్తీ
  • Claude Code · OAuth · లైవ్
  • Cerebras · ఫ్రీ · లైవ్
  • Groq · కూల్‌డౌన్ ఉదాహరణ
  • NVIDIA NIM · ఫ్రీ · లైవ్

ఏజెంట్ ప్రోటోకాల్స్

OmniRoute ను MCP మరియు A2A ద్వారా అందించండి.

OmniRoute తన గేట్‌వేను MCP క్లయింట్లు, A2A నెట్‌వర్క్‌లు మరియు సపోర్టెడ్ క్లౌడ్ కోడింగ్ ఏజెంట్లకు అందించగలదు.

MCP సర్వర్

stdio మరియు HTTP ట్రాన్స్‌పోర్ట్‌లపై 33 స్కోప్‌లలో 110 టూల్స్.

110 టూల్స్ · 33 స్కోప్‌లు · stdio / HTTP

claude mcp add omniroute --type http --url http://localhost:20128/api/mcp/stream

A2A సర్వర్

JSON-RPC 2.0 పై స్మార్ట్ రూటింగ్, కోటా, డిస్కవరీ, కాస్ట్ అనాలిసిస్ మరియు హెల్త్ రిపోర్టింగ్ కోసం 6 స్కిల్స్.

6 స్కిల్స్ · JSON-RPC 2.0 · Agent Card

క్లౌడ్ ఏజెంట్లు

సపోర్టెడ్ Codex, Cursor, Devin మరియు Jules వర్క్‌ఫ్లోలను ఒకే ఆర్కెస్ట్రేషన్ సర్ఫేస్ ద్వారా కనెక్ట్ చేయండి.

Codex · Cursor · Devin · Jules

అదనపు సర్వీసులు

గేట్‌వేను విస్తరించండి.

ఎంబెడెడ్ సర్వీసులు

Bifrost, 9Router లేదా CLIProxy ను మేనేజ్డ్ సైడ్‌కార్లుగా రన్ చేయండి, లేదా పూర్తి క్లస్టర్ ప్రొఫైల్ నడపండి.

మీ నాలెడ్జ్, కాంటెక్స్ట్‌లో

Notion మరియు Obsidian ను MCP-ఆధారిత కాంటెక్స్ట్ సోర్స్‌లుగా కనెక్ట్ చేయండి.

బిల్ట్-ఇన్ గార్డ్‌రెయిల్స్

ప్రాంప్ట్-ఇంజెక్షన్ చెక్‌లు, ఆప్ట్-ఇన్ PII రిడాక్షన్ మరియు ప్రొవైడర్ లాక్-ఇన్ లేని నార్మలైజ్డ్ సేఫ్టీ ఫిల్టర్లు.

వినియోగ లక్ష్యాలు

ఆపరేషనల్ అనలిటిక్స్‌తో పాటు స్ట్రీక్‌లు, అచీవ్‌మెంట్లు మరియు లైవ్ ఆదాను ట్రాక్ చేయండి.

కమ్యూనిటీ నుండి

OmniRoute ఎలా వాడుతున్నారు, ఏం చర్చిస్తున్నారు.

X, Reddit మరియు YouTube లో డెవలపర్లు ఏం నిర్మిస్తున్నారు, అడుగుతున్నారు, పంచుకుంటున్నారో చూడండి.

32 ఛానెల్‌ల నుండి 32 వీడియోలుఅన్ని 32 కమ్యూనిటీ వీడియోలు చూడండి

Profile picture of Peng
Peng@pengsonal
Link to tweet (opens in a new tab)
one local endpoint for cursor / cline / claude code / copilot 😳 OmniRoute (24.7k★ on GitHub) runs a self-hosted router on your machine so you only need one base URL for all your coding agents. wha…

25 posts from X · 25 Reddit postsఅన్ని పోస్టులు చూడండి

బహిరంగంగా నిర్మించబడింది

రిపాజిటరీ యాక్టివిటీ

చెక్-ఇన్ చేసిన GitHub స్నాప్‌షాట్ నుండి స్టార్లు, ఫోర్క్‌లు, కంట్రిబ్యూటర్లు మరియు రిలీజ్‌లు చూడండి.

  • 11,226ఫోర్క్‌లు
  • 841కంట్రిబ్యూటర్లు
  • 281రిలీజ్‌లు షిప్ అయ్యాయి
  • 9,060PR లు మెర్జ్ అయ్యాయి
  • 5,084ఇష్యూలు క్లోజ్ అయ్యాయి
  • 30,000ఆటోమేటెడ్ టెస్టులు

2026-10-17 నాటి స్నాప్‌షాట్

Discord

చాట్, సపోర్ట్ మరియు రోడ్‌మ్యాప్

(కొత్త ట్యాబ్‌లో తెరుచుకుంటుంది)

Telegram

వార్తలు మరియు ప్రకటనలు

(కొత్త ట్యాబ్‌లో తెరుచుకుంటుంది)

WhatsApp 🌍

గ్లోబల్ కమ్యూనిటీ

(కొత్త ట్యాబ్‌లో తెరుచుకుంటుంది)

WhatsApp 🇧🇷

Comunidade Brasil

(కొత్త ట్యాబ్‌లో తెరుచుకుంటుంది)
కంట్రిబ్యూటర్లను కలవండి (కొత్త ట్యాబ్‌లో తెరుచుకుంటుంది)

Cheaper Inference నుండి OmniRoute

OmniRoute ఎలా రన్ చేయాలో ఎంచుకోండి.

OmniRoute సెల్ఫ్-హోస్ట్ చేయండి, లేదా హోస్టెడ్ కాస్ట్-ర్యాంక్డ్ గేట్‌వే కోసం Cheaper Inference తో ప్రారంభించండి.

Cheaper Inference ప్రయత్నించండి OmniRoute సెల్ఫ్-హోస్ట్ చేయండి (కొత్త ట్యాబ్‌లో తెరుచుకుంటుంది)