Pangunahing control
Panatilihing tumatakbo ang mga request
Kapag hindi available o ubos na ang quota ng isang target, pipili ang OmniRoute ng susunod na healthy na target.
OmniRoute / Mga capability ng produkto
Mga control na puwede mong suriin at i-self-host.
Suriin ang mga gateway control, platform service at local dashboard nang hindi itinuturing na hosting promise ang feature list.
Mga pangunahing control
Ano ang kasama sa self-hosted gateway.
Pangunahing control
I-compress ang eligible na context
Isang pipeline na may 12 engine ang nagbabawas ng eligible na context ng 15–95%. Ang dokumentadong tool-heavy na halimbawa ay nabawasan ng ~89%.
Pangunahing control
$0 para magsimula
90+ free tier at 56 recurring o keyless na free-forever provider. Hindi kailangan ng credit card para sa keyless na quick start.
Pangunahing control
35 suportadong integration
I-configure ang Claude Code, Codex, Cursor, Cline, Copilot, Antigravity at iba pang suportadong client sa pamamagitan ng isang endpoint.
Pangunahing control
Isang endpoint
Tumatanggap ng OpenAI, Claude, Gemini at Responses API request sa /v1.
Pangunahing control
Mga operational control
Kasama sa self-hosted gateway ang circuit breaker, encrypted na credential, MCP, A2A, memory, guardrail at eval.
Mga capability
I-configure ang request path mula sa isang dashboard.
I-configure ang fallback, quota, compression, memory, MCP at A2A mula sa local dashboard.
Gateway control
Smart Combos
I-set ang model sa auto o bumuo ng sarili mong combo gamit ang 19 strategy at tiered fallback.
Gumamit ng ready-made na mode o pagsamahin ang 19 strategy ayon sa layuning mahalaga sa iyo.
Gateway control
Memory
Persistent na conversational memory na may FTS5 keyword at Qdrant vector recall.
Gateway control
3-layer na resilience
Ang provider breaker, connection cooldown at model lockout ay nag-isolate ng mga failure sa pinakamaliit na kapaki-pakinabang na scope.
Gateway control
Libreng quota
Pool-deduped na accounting sa 90+ free tier.
Nakalathalang free-tier capacity, deduplicated.
Gateway control
Compression
12 composable na engine para sa tool output, context at response style.
Bawasan ang eligible na token ng 15–95%.
Gateway control
MCP server
Isang built-in na server na naglalantad ng 110 gateway tool sa 33 scope.
110 tool · 33 scope · stdio / HTTP
Gateway control
A2A protocol
Isang JSON-RPC agent server na may 6 skill.
6 skill · JSON-RPC 2.0 · Agent Card
Gateway control
Semantic cache
Puwedeng bumalik mula sa cache ang paulit-ulit na request, at iniuulat ng response header kung ano ang natipid.
X-OmniRoute-Cache: HIT
Mga platform service
Palawakin ang local gateway.
Mga embedded na serbisyo
Patakbuhin ang Bifrost, 9Router o CLIProxy bilang managed sidecar, o magpatakbo ng buong cluster profile.
Ang knowledge mo, sa context
Ikonekta ang Notion at Obsidian bilang MCP-backed na context source.
Built-in na guardrail
Prompt-injection check, opt-in na PII redaction at normalized na safety filter nang walang provider lock-in.
Mga usage goal
Subaybayan ang mga streak, achievement at live na tipid kasabay ng operational analytics.
Dashboard
Suriin ang configuration at mga halimbawang operating view.
Halimbawang data ang mga value sa ibaba. Sumasalamin ang local dashboard mo sa sarili mong mga provider, request at gastos.
352provider na nakakonekta
90+free tier na available
198healthy sa halimbawang ito
- Claude Code · OAuth · live
- Cerebras · libre · live
- Groq · halimbawang cooldown
- NVIDIA NIM · libre · live
19routing strategy
8mshalimbawang failover
- auto · 15-factor na scoring
- auto/cheap · cost optimized
- auto/coding · quality first
1.42Mrequest · halimbawang 30d
99.4%halimbawang success rate
312mshalimbawang p50 latency
- Mga request sa paglipas ng panahon
- Bahagi ng provider
- Paggamit ng model at endpoint
3resilience layer
2key na nagko-cool down sa halimbawa
- Mga provider circuit breaker
- Mga connection cooldown
- Mga model lockout
$0.00nagastos · halimbawang 30d
1.51Blibreng token na na-route sa halimbawa
- Mga free tier
- Mga flat-fee subscription
- Mga bayad na API