OmniRouteby Cheaper Inference
OmniRoute sa stal súčasťou Cheaper InferencePreskúmať Cheaper Inference

Open source AI router č. 1

Smerujte požiadavky na 352 poskytovateľov cez jeden endpoint kompatibilný s OpenAI, s automatickým fallbackom.

Vyskúšať Cheaper InferenceSelf-hostovať OmniRoute (otvorí sa na novej karte)
Kompatibilné s OpenAI Bezplatné a open source77.5k hviezd (otvorí sa na novej karte)

OmniRoute × Cheaper Inference

Skombinujte automatický fallback a vývojárske nástroje OmniRoute s marketplace Cheaper Inference zoradeným podľa ceny. Každá oprávnená požiadavka začína najlacnejšou dostupnou trasou poskytovateľa.

97 modelovPriama cenníková cena v porovnaní s cenou Cheaper Inference
Priame cenníkové ceny v porovnaní s cenami Cheaper Inference podľa modelu
ModelCena vstupuCena výstupuÚsporaKontextPodrobnosti
gpt-5.6-lunaOpenAI · text$0.20$0.08/ 1M tokens$1.20$0.48/ 1M tokenszľava 60 %1.1M
gpt-5.6-terraOpenAI · text$2.00$0.80/ 1M tokens$12.00$4.80/ 1M tokenszľava 60 %1.1M
gpt-oss-120bOpenAI · text$0.10$0.040483/ 1M tokens$0.50$0.202417/ 1M tokenszľava 59.52 %128K
deepseek-v4.1-flashDeepSeek · text$0.15$0.075/ 1M tokens$0.60$0.30/ 1M tokenszľava 50 %1.0M
gpt-5.6-solOpenAI · text$4.00$2.00/ 1M tokens$20.00$10.00/ 1M tokenszľava 50 %1.1M
glm-4.5Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokenszľava 45 %128K
glm-4.6Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokenszľava 45 %198K
glm-4.7Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokenszľava 45 %128K
Zobrazených 8 z 97 modelov
Priama cenníková cena → cena Cheaper Inference · Prehliadať všetky modely · Zobraziť živý katalóg (otvorí sa na novej karte)Ceny overené 14. 10. 2026, 14:00 UTC. Sadzby sa môžu zmeniť, keď sa zmenia ceny upstreamu alebo dostupné trasy.

Základné ovládanie

Jeden endpoint pre vašich nakonfigurovaných poskytovateľov.

Core control

Požiadavky nezastavia

Keď je cieľ nedostupný alebo mu došla kvóta, OmniRoute vyberie ďalší zdravý cieľ.

Core control

Komprimujte oprávnený kontext

Pipeline s 12 enginmi zmenší oprávnený kontext o 15–95%. Zdokumentovaný príklad s množstvom nástrojov ho zmenšil o ~89%.

Core control

Začnite za 0 $

90+ bezplatných úrovní a 56 opakujúcich sa alebo bezkľúčových navždy bezplatných poskytovateľov. Pre bezkľúčový rýchly štart nie je potrebná kreditná karta.

Core control

35 podporovaných integrácií

Nakonfigurujte Claude Code, Codex, Cursor, Cline, Copilot, Antigravity a ďalších podporovaných klientov cez jeden endpoint.

Core control

Jeden endpoint

Prijíma požiadavky OpenAI, Claude, Gemini a Responses API na /v1.

Core control

Prevádzkové ovládanie

Circuit breakery, šifrované prihlasovacie údaje, MCP, A2A, pamäť, guardraily a evaly sú súčasťou self-hostovaného gatewaya.

Katalóg

Všetci za jedným endpointom.

Katalóg pokrývajúci chat, médiá, vyhľadávanie, lokálne runtimy, cloudových agentov a systémové integrácie.

352 poskytovateľov

Každý z nich za jedným lokálnym endpointom.

Jeden endpoint, na ktorý smeruje každý klienthttp://localhost:20128/v1

14 Search12 Audio-only2 Upstream proxy3 Cloud agent1 System
OpenAIAnthropicGoogleDeepSeekxAIZ.aiMoonshotMiniMaxAlibabaMetaBytedanceAion Labs
25OAuthClaude Code, Codex, Cursor, GitHub Copilot, Kimi Code…
233API kľúčOpenAI, Anthropic, Groq, NVIDIA, Cerebras, Mistral…
35Webová cookieChatGPT Web, Claude Web, Gemini Web, Grok Web…
14LokálneOllama, LM Studio, vLLM, llama.cpp…
13Bez autentifikácieOpenCode Free, Felo, Pollinations a ďalšie bezkľúčové trasy…
Preskúmať referenciu poskytovateľov (opens in a new tab)

Rýchly štart

Nainštalujte, spustite, pripojte.

Nainštalujte balík, spustite gateway a nasmerujte ľubovoľného klienta kompatibilného s OpenAI na port 20128.

Katalóg poskytovateľov
352
Stratégie smerovania
19
Lokálny endpoint
:20128/v1

Step 1: Inštalácia

Nainštalujte npm balík omniroute globálne.

omniroute: install
$ npm install -g omnirouteadded 1 package

Step 2: Spustenie

Spustite API a dashboard spolu na porte 20128.

omniroute: run
$ omniroute▸ dashboard ✓ http://localhost:20128/dashboard▸ api ...... ✓ serving on :20128

Step 3: Pripojte svoj nástroj

Použite http://localhost:20128/v1; bezkľúčová trasa auto funguje hneď po čistej inštalácii.

omniroute: connect
$ curl localhost:20128/v1/models✓ models listed

Ovládanie gatewaya

Základné ovládanie gatewaya v jednom procese.

Nakonfigurujte fallback, kvóty, kompresiu, pamäť, MCP a A2A z lokálneho dashboardu.

Gateway control

Smart Combos

Nastavte model na auto alebo si zostavte vlastné combo s 19 stratégiami a viacúrovňovým fallbackom.

Použite pripravený režim alebo skombinujte 19 stratégií okolo cieľa, na ktorom vám záleží.

Gateway control

Pamäť

Trvalá konverzačná pamäť s kľúčovým vyhľadávaním FTS5 a vektorovým vybavovaním cez Qdrant.

Gateway control

Odolnosť v 3 vrstvách

Breaker poskytovateľa, cooldown pripojenia a lockout modelu izolujú zlyhania v najmenšom užitočnom rozsahu.

Gateway control

Bezplatná kvóta

Účtovanie s deduplikáciou poolov naprieč 90+ bezplatnými úrovňami.

Zverejnená kapacita bezplatných úrovní, deduplikovaná.

Gateway control

Kompresia

12 kombinovateľných enginov pre výstup nástrojov, kontext a štýl odpovede.

Znížte oprávnené tokeny o 15–95%.

Gateway control

MCP server

Vstavaný server sprístupňujúci 110 nástrojov gatewaya v 33 rozsahoch.

110 nástrojov · 33 rozsahov · stdio / HTTP

Gateway control

Protokol A2A

Agentový server JSON-RPC s 6 zručnosťami.

6 zručností · JSON-RPC 2.0 · Agent Card

Gateway control

Sémantická cache

Opakovaná požiadavka sa môže vrátiť z cache a hlavička odpovede uvedie, čo to ušetrilo.

X-OmniRoute-Cache: HIT

Kompatibilita klientov

Nechajte si svoje existujúce nástroje na kódovanie.

Nasmerujte CLI alebo editor kompatibilný s OpenAI na jednu lokálnu base URL; poskytovateľov za ňou rieši OmniRoute.

Claude Code
Codex CLI
Cursor
Cline
GitHub Copilot
Gemini CLI
OpenCode
Kilo Code
Factory Droid
Continue
Roo Code
Antigravity
Aider
OpenClaw
Goose
Grok Build
Windsurf
Devin CLI

http://localhost:20128/v1

request.sh
curl http://localhost:20128/v1/chat/completions \
  -H "Authorization: Bearer $OMNIROUTE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Hello"}]}'

OmniCopilot

Používajte modely OmniRoute v Copilot Chat.

OmniCopilot pridá modely OmniRoute do existujúceho výberu modelov.

Oficiálny Marketplace

Funguje vo VS Code stable aj Insiders. Nainštalujte z Marketplace alebo zo zobrazenia Extensions.

Open VSX Registry

Pre Cursor, Windsurf, VSCodium, Theia, code-server, Gitpod a ďalšie kompatibilné editory.

Nie je potrebný plán Copilot

Modely poskytovateľov môžu bežať cez OmniRoute v Copilot Chat bez smerovania inferencie cez plán Copilot.

VS Code Marketplace (otvorí sa na novej karte)Open VSX Registry (otvorí sa na novej karte)OmniCopilot source (otvorí sa na novej karte)

Bežné spôsoby zlyhania

Prečo OmniRoute

Pozrite sa, ktoré ovládanie rieši jednotlivé bežné spôsoby zlyhania.

Without routing
With OmniRoute
Kvóta vyprší nevyužitá
Sledujte a vyčerpajte prídel, ktorý už máte
Rate limity vás zastavia uprostred práce
Automatický fallback v 4 úrovniach v milisekundách
Výstup nástrojov spaľuje tokeny
Kompresia s 12 enginmi, 15–95% na oprávnenom obsahu
Drahé API sa nasčítajú
Nákladovo optimalizované smerovanie vie vybrať najlacnejší oprávnený cieľ
Každý nástroj potrebuje vlastné nastavenie
Jeden endpoint a jeden dashboard
Poskytovateľ je z vašej siete nedostupný
Rozsahy proxy a ovládanie fingerprintu klienta
Jeden mŕtvy kľúč vyradí poskytovateľa
Breaker, cooldown a lockout izolujú zlyhanie
Tím zdieľa jedno predplatné
Pooly kľúčov a spravodlivo delené kvóty
Potrebujete lokálnu kontrolu nad dátami smerovania
Local-first úložisko so šifrovanými prihlasovacími údajmi
Žiadny prehľad o výdavkoch ani zdraví
Analytika využitia, kvót, úspor a latencie

Snímka dokumentácie

Ako sa gatewaye porovnávajú

Schopnosti overené podľa odkazovanej dokumentácie projektov dňa 2026-08-30.

SchopnosťOmniRoute (otvorí sa na novej karte)9Router (otvorí sa na novej karte)LiteLLM (otvorí sa na novej karte)CLIProxyAPI (otvorí sa na novej karte)
Poskytovatelia35240+100+8+ upstreams
Stratégie smerovania193-tierretry / priorityround-robin / fill-first
Viacúrovňový fallback s UIYesYesManual policyMulti-account
Kompresia tokenov12 engines · 15–95%RTK / Headroom / CavemanNo built-in pipelineHTTP compression

Snímka verejného README a oficiálnej dokumentácie; pred rozhodnutím o nákupe alebo nasadení si overte odkazované zdroje.

Nasadenie

9 podporovaných spôsobov, ako spustiť OmniRoute.

Nainštalujte ho na notebook, server alebo telefón, alebo sa pripojte cez podporovaný editor a plugin.

npm

Jeden príkaz na ľubovoľnom podporovanom desktopovom OS

npm install -g omnirouteOtvoriť návod (otvorí sa na novej karte)

Docker

Multi-arch image pre AMD64 a ARM64

docker run … diegosouzapw/omnirouteOtvoriť návod (otvorí sa na novej karte)

Desktop

Natívne okno a systémová lišta na Windows, macOS a Linuxe

npm run electron:buildOtvoriť návod (otvorí sa na novej karte)

ARM

Raspberry Pi, ARM servery a Apple Silicon

native arm64

Android · Termux

Beží na Androide bez rootu

pkg install nodejs && npx -y omnirouteOtvoriť návod (otvorí sa na novej karte)

PWA

Na celú obrazovku, pripravené na offline a inštalovateľné z prehliadača

Add to Home ScreenOtvoriť návod (otvorí sa na novej karte)

OpenCode plugin

Natívny plugin poskytovateľa pre OpenCode

@omniroute/opencode-providerOtvoriť návod (otvorí sa na novej karte)

VS Code

Modely OmniRoute vo výbere modelov Copilot Chat

Install OmniCopilotOtvoriť návod (otvorí sa na novej karte)

From source

Hrabte sa v kóde a prispievajte

npm install && npm run devOtvoriť návod (otvorí sa na novej karte)

Smerovanie

Vyberte si trasu auto.

Použite pripravený režim alebo skombinujte 19 stratégií okolo cieľa, na ktorom vám záleží.

Model · fallback zapnutýautoBalanced default
Požiadavka kompatibilná s OpenAI
curl http://localhost:20128/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Write a TypeScript retry helper."}]}'

Routing alias auto selected. Objective: Balanced default. Fallback enabled.

Vyčerpať kvótu predplatného

Využite kvótu, ktorú už máte, skôr než siahnete na platené API.

priority · fill-first

Rozložiť záťaž

Vyvážte prevádzku medzi kľúčmi a účtami a znížte tlak rate limitov.

weighted · round-robin · p2c · least-used · headroom

Najlacnejší prvý

Smerujte na oprávnený cieľ s najnižšou cenou.

cost-optimized

Podľa kontextu

Držte dlhé kontexty na modeloch, do ktorých sa zmestia, a v prípade potreby ich preneste ďalej.

context-relay · context-optimized · cache-optimized

Náhodné

Rozdeľte oprávnenú prevádzku medzi ciele.

random · strict-random

Adaptívne skórovanie

Použite skórovanie podľa 15 faktorov, posledný fungujúci cieľ a okná rešpektujúce reset.

reset-window · reset-aware · lkgp · auto · fusion · pipeline

Účtovanie bezplatných úrovní

Zverejnená kapacita bezplatných úrovní, deduplikovaná.

455 položiek katalógu je deduplikovaných do 40 opakujúcich sa poolov; do hlavného čísla vstupujú len zverejnené kladné rozpočty.

1.51B

Účtovanie s deduplikáciou poolov zabraňuje viacnásobnému započítaniu zdieľaných kvót. Poskytovatelia bez limitu zostávajú viditeľní bez nafukovania celkového počtu tokenov. Checked 2026-08-30.

Zobraziť výpočet (otvorí sa na novej karte)
Opakujúci sa alebo bezkľúčoví navždy bezplatní poskytovatelia56
  • Mistral1B/month
  • LLM7150M/month
  • Nara150M/month
  • Gemini CLI · forever60M/month
  • Kiro50 credits/month
  • Qoder · foreverFree catalog
  • LongCat · forever50M/day
  • Cerebras1M/day
  • NVIDIA NIM~40 RPM
  • Pollinations · foreverNo key
  • Cloudflare Workers AI · foreverDaily neurons
  • OpenCode Free · foreverNo-auth catalog

Kompresia kontextu

Znížte oprávnené tokeny o 15–95%.

Výstup nástrojov, opakovaný kontext a nafúknuté štruktúrované dáta sa dajú skomprimovať skôr, než dorazia k modelu.

Kontext zmenšený o 15–95% na oprávnených tokenoch

Pred: The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total. Po: sum all list items where value > 0

  1. Session-Dedup
  2. CCR
  3. Lite
  4. RTK
  5. Responses Tool Output
  6. Headroom
  7. Relevance
  8. Caveman
  9. Aggressive
  10. LLMLingua-2
  11. Ultra
  12. OmniGlyph

Rovnaká inštrukcia. Menej kontextu, za ktorý platíte.

Pred69 tokens
The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total.
Po19 tokens
sum all list items where value > 0

Kombinovateľný pipeline

  1. Session-Dedup
    Vypustí obsah, ktorý bol v relácii odoslaný už skôr.
  2. CCR
    Archivuje veľké bloky a na požiadanie ich obnoví.
  3. Lite
    Aplikuje konzervatívne bezstratové čistenie.
  4. RTK
    Filtruje a deduplikuje výstup príkazov a nástrojov.
  5. Responses Tool Output
    Zhutní payloady nástrojov Responses API.
  6. Headroom
    Aplikuje vratné zhutnenie tabuľkových a štruktúrovaných dát.
  7. Relevance
    Ponechá vety najrelevantnejšie pre posledný dotaz.
  8. Caveman
    Použije kondenzáciu prózy založenú na pravidlách.
  9. Aggressive
    Aplikuje silnejšie nakonfigurované prerezávanie.
  10. LLMLingua-2
    Použije sémantické prerezávanie bezpečné pre kód v izolovanom workeri.
  11. Ultra
    Kombinuje fázy s vysokou úsporou s ochranou pred stratou obsahu.
  12. OmniGlyph
    Kompaktne zakóduje oprávnené opakujúce sa štruktúry.

Profily

Zverejnený rozsah profilu~30%x-omniroute-compression: standard

Vybraná kompresia Standard. Zverejnený rozsah ~30%.

Ovládanie a štýly výstupu

  • Pomenované profily a aktívny selektor
  • Vizuálne Compression Studio
  • Anthropic Context Editing
  • Adaptívny regulátor rozpočtu kontextu
  • Pre jednu požiadavku \
  • hlavička
  • Offline harness na evaly
  • Automatický spúšťač podľa prahu tokenov
  • Terse prose
  • Less code (YAGNI)
  • Terse CJK 文言

Priorita ovládania: hlavička požiadavky → combo → profil → adaptívna politika → predvolené.

Izolácia zlyhaní

Izolujte zlyhania poskytovateľa, pripojenia a modelu.

Zlý kľúč by nemal vyradiť poskytovateľa. Obmedzený model by nemal vyradiť pripojenie.

model ⊂ pripojenie ⊂ poskytovateľ
Circuit breaker poskytovateľaKeď je poskytovateľ nezdravý, smerovanie combo ho preskakuje, kým neuspeje half-open sonda.
Cooldown pripojeniaNechajte jeden kľúč alebo účet vychladnúť, zatiaľ čo susedné pripojenia ďalej obsluhujú.
Lockout modeluZamknite jeden model s rate limitom alebo nedostupný model, zatiaľ čo ostatné modely na pripojení zostávajú dostupné.

Sieťové ovládanie

Sieťové smerovanie a kontrola lokálnych dát.

Rozsahy proxy riadia sieťové smerovanie, zatiaľ čo local-first úložisko drží prevádzkové dáta na vašom počítači.

Tri rozsahy proxy

Smerujte globálne, per poskytovateľ alebo per jednotlivé pripojenie.

  • Globálne · per poskytovateľ · per pripojenie
  • SOCKS5 a HTTP(S) proxy
  • Integrácia s marketplace proxy

Ovládanie TLS a fingerprintu klienta

Napodobnite podporovaných klientov poskytovateľov až po vybrané vlastnosti transportu.

  • Transport s podporou JA3/JA4 cez wreq-js
  • Profily klientov špecifické pre poskytovateľa
  • Ovládanie odchádzajúcej prevádzky IPv4 a IPv6

Súkromné a local-first

Kľúče, využitie a história zostávajú na hostiteľovi, ktorý ovládate.

  • SQLite na disku s prihlasovacími údajmi šifrovanými AES-256-GCM
  • Nie je potrebný účet OmniRoute
  • Self-hosting na infraštruktúre podľa vášho výberu
RuskoČínaIránKubaTurecko

Lokálny dashboard

Nakonfigurujte OmniRoute bez úprav YAML.

Spravujte poskytovateľov, combá, analytiku, zdravie a náklady na localhost:20128/dashboard.

localhost:20128/dashboardUkážkové dáta
352pripojených poskytovateľov
90+dostupných bezplatných úrovní
198zdravých v tomto príklade
  • Claude Code · OAuth · live
  • Cerebras · bezplatné · live
  • Groq · príklad cooldownu
  • NVIDIA NIM · bezplatné · live

Agentové protokoly

Sprístupnite OmniRoute cez MCP a A2A.

OmniRoute vie sprístupniť svoj gateway klientom MCP, sieťam A2A a podporovaným cloudovým kódovacím agentom.

MCP server

110 nástrojov v 33 rozsahoch cez transporty stdio a HTTP.

110 nástrojov · 33 rozsahov · stdio / HTTP

claude mcp add omniroute --type http --url http://localhost:20128/api/mcp/stream

A2A server

6 zručností pre inteligentné smerovanie, kvóty, discovery, analýzu nákladov a hlásenie zdravia cez JSON-RPC 2.0.

6 zručností · JSON-RPC 2.0 · Agent Card

Cloudoví agenti

Pripojte podporované workflowy Codex, Cursor, Devin a Jules cez jednu orchestračnú plochu.

Codex · Cursor · Devin · Jules

Ďalšie služby

Rozšírte gateway.

Vstavané služby

Spúšťajte Bifrost, 9Router alebo CLIProxy ako spravované sidecary, alebo prevádzkujte plný klastrový profil.

Vaše znalosti v kontexte

Pripojte Notion a Obsidian ako zdroje kontextu postavené na MCP.

Vstavané guardraily

Kontroly prompt injection, voliteľné odstraňovanie PII a normalizované bezpečnostné filtre bez závislosti na poskytovateľovi.

Ciele využitia

Sledujte série, úspechy a živé úspory popri prevádzkovej analytike.

Z komunity

Ako sa OmniRoute používa a o čom sa diskutuje.

Pozrite sa, čo vývojári tvoria, na čo sa pýtajú a čo zdieľajú na X, Reddite a YouTube.

32 videí z 32 kanálovZobraziť všetkých 32 komunitných videí

Profile picture of Peng
Peng@pengsonal
Link to tweet (opens in a new tab)
one local endpoint for cursor / cline / claude code / copilot 😳 OmniRoute (24.7k★ on GitHub) runs a self-hosted router on your machine so you only need one base URL for all your coding agents. wha…

25 posts from X · 25 Reddit postsZobraziť všetky príspevky

Vyvíjané otvorene

Aktivita repozitára

Pozrite si hviezdy, forky, prispievateľov a vydania zo snímky GitHub uloženej v repozitári.

  • 11,226forkov
  • 841prispievateľov
  • 281vydaných verzií
  • 9,060zlúčených PR
  • 5,084uzavretých issues
  • 30,000automatizovaných testov

Snímka z 2026-10-17

Discord

Chat, podpora a roadmapa

(otvorí sa na novej karte)

Telegram

Novinky a oznámenia

(otvorí sa na novej karte)

WhatsApp 🌍

Globálna komunita

(otvorí sa na novej karte)

WhatsApp 🇧🇷

Comunidade Brasil

(otvorí sa na novej karte)
Zoznámte sa s prispievateľmi (otvorí sa na novej karte)

OmniRoute od Cheaper Inference

Vyberte si, ako budete OmniRoute prevádzkovať.

Self-hostujte OmniRoute alebo začnite s Cheaper Inference, hostovaným gatewayom zoradeným podľa ceny.

Vyskúšať Cheaper Inference Self-hostovať OmniRoute (otvorí sa na novej karte)