OmniRouteby Cheaper Inference
Az OmniRoute csatlakozott a Cheaper Inference-hezFedezd fel a Cheaper Inference-t

#1 nyílt forráskódú AI-router

Irányítsd a kéréseket 352 szolgáltató között egy OpenAI-kompatibilis végponton keresztül, automatikus fallbackkel.

Próbáld ki a Cheaper Inference-tHosztold magad az OmniRoute-ot (új lapon nyílik meg)
OpenAI-kompatibilis Ingyenes és nyílt forráskódú77.2k csillag (új lapon nyílik meg)

OmniRoute × Cheaper Inference

Kombináld az OmniRoute automatikus fallbackjét és fejlesztői eszközeit a Cheaper Inference költség szerint rangsorolt piacterével. Minden jogosult kérés a legolcsóbb elérhető szolgáltatói útvonallal indul.

97 modellKözvetlen listaár a Cheaper Inference árral összehasonlítva
Közvetlen listaárak a Cheaper Inference árakkal összehasonlítva, modellenként
ModellBemeneti árKimeneti árMegtakarításKontextusRészletek
gpt-5.6-lunaOpenAI · text$0.20$0.08/ 1M tokens$1.20$0.48/ 1M tokens60% kedvezmény1.1M
gpt-5.6-terraOpenAI · text$2.00$0.80/ 1M tokens$12.00$4.80/ 1M tokens60% kedvezmény1.1M
gpt-oss-120bOpenAI · text$0.10$0.040483/ 1M tokens$0.50$0.202417/ 1M tokens59.52% kedvezmény128K
deepseek-v4.1-flashDeepSeek · text$0.15$0.075/ 1M tokens$0.60$0.30/ 1M tokens50% kedvezmény1.0M
gpt-5.6-solOpenAI · text$4.00$2.00/ 1M tokens$20.00$10.00/ 1M tokens50% kedvezmény1.1M
glm-4.5Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45% kedvezmény128K
glm-4.6Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45% kedvezmény198K
glm-4.7Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45% kedvezmény128K
8 / 97 modell látható
Közvetlen listaár → Cheaper Inference ár · Minden modell böngészése · Élő katalógus megtekintése (új lapon nyílik meg)Árak ellenőrizve: 2026. okt. 14. 14:00 UTC. Az árak változhatnak, ha az upstream árazás vagy az elérhető útvonalak változnak.

Alapvető vezérlők

Egy végpont a beállított szolgáltatóidhoz.

Core control

Tartsd mozgásban a kéréseket

Ha egy cél nem elérhető vagy kifogyott a kvótája, az OmniRoute a következő egészséges célt választja.

Core control

Tömörítsd a jogosult kontextust

Egy 12 motoros folyamat 15–95%-kal csökkenti a jogosult kontextust. A dokumentált, eszközintenzív példában ~89% volt a csökkenés.

Core control

Indulás 0 dollárral

90+ ingyenes szint és 56 ismétlődő vagy kulcs nélküli, örökre ingyenes szolgáltató. A kulcs nélküli gyors kezdéshez nem kell bankkártya.

Core control

35 támogatott integráció

Állítsd be a Claude Code, Codex, Cursor, Cline, Copilot, Antigravity és más támogatott klienseket egy végponton keresztül.

Core control

Egy végpont

OpenAI, Claude, Gemini és Responses API kéréseket fogad a /v1 alatt.

Core control

Üzemeltetési vezérlők

Circuit breakerek, titkosított hitelesítő adatok, MCP, A2A, memória, guardrailek és evalok járnak a saját hosztolású átjáróval.

A katalógus

Mind egy végpont mögött.

Egy katalógus, amely chatet, médiát, keresést, helyi futtatókörnyezeteket, felhőágenseket és rendszerintegrációkat fed le.

352 szolgáltató

Mindegyikük egyetlen helyi végpont mögött.

Az egyetlen végpont, amelyre minden kliens mutathttp://localhost:20128/v1

14 Search12 Audio-only2 Upstream proxy3 Cloud agent1 System
OpenAIAnthropicGoogleDeepSeekxAIZ.aiMoonshotMiniMaxAlibabaMetaBytedanceAion Labs
25OAuthClaude Code, Codex, Cursor, GitHub Copilot, Kimi Code…
233API-kulcsOpenAI, Anthropic, Groq, NVIDIA, Cerebras, Mistral…
35Webes cookieChatGPT Web, Claude Web, Gemini Web, Grok Web…
14HelyiOllama, LM Studio, vLLM, llama.cpp…
13Hitelesítés nélkülOpenCode Free, Felo, Pollinations és más kulcs nélküli útvonalak…
Szolgáltatói referencia megtekintése (opens in a new tab)

Gyors kezdés

Telepítsd, futtasd, csatlakozz.

Telepítsd a csomagot, indítsd el az átjárót, majd irányíts bármilyen OpenAI-kompatibilis klienst a 20128 portra.

Szolgáltatói katalógus
352
Útválasztási stratégiák
19
Helyi végpont
:20128/v1

Step 1: Telepítés

Telepítsd globálisan az omniroute npm csomagot.

omniroute: install
$ npm install -g omnirouteadded 1 package

Step 2: Futtatás

Indítsd el együtt az API-t és az irányítópultot a 20128 porton.

omniroute: run
$ omniroute▸ dashboard ✓ http://localhost:20128/dashboard▸ api ...... ✓ serving on :20128

Step 3: Csatlakoztasd az eszközödet

Használd a http://localhost:20128/v1 címet; a kulcs nélküli auto útvonal friss telepítésen is működik.

omniroute: connect
$ curl localhost:20128/v1/models✓ models listed

Átjáróvezérlők

Alapvető átjáróvezérlők egy folyamatban.

Állítsd be a fallbacket, a kvótát, a tömörítést, a memóriát, az MCP-t és az A2A-t a helyi irányítópultról.

Gateway control

Smart Combos

Állíts egy modellt auto-ra, vagy építsd meg a saját kombódat 19 stratégiával és többszintű fallbackkel.

Használj kész módot, vagy kombináld a 19 stratégiát a számodra fontos cél körül.

Gateway control

Memória

Tartós beszélgetési memória FTS5 kulcsszavas és Qdrant vektoros visszakereséssel.

Gateway control

3 rétegű hibatűrés

A szolgáltatói circuit breaker, a kapcsolati lehűlés és a modellzárolás a legkisebb hasznos hatókörben izolálja a hibákat.

Gateway control

Ingyenes kvóta

Poolonként deduplikált elszámolás 90+ ingyenes szinten.

Közzétett ingyenes kapacitás, deduplikálva.

Gateway control

Tömörítés

12 kombinálható motor eszközkimenetre, kontextusra és válaszstílusra.

Csökkentsd a jogosult tokeneket 15–95%-kal.

Gateway control

MCP-szerver

Beépített szerver, amely 110 átjáróeszközt tesz elérhetővé 33 hatókörben.

110 eszköz · 33 hatókör · stdio / HTTP

Gateway control

A2A protokoll

JSON-RPC ágensszerver 6 készséggel.

6 készség · JSON-RPC 2.0 · Agent Card

Gateway control

Szemantikus cache

Egy ismételt kérés a cache-ből is visszatérhet, és a válaszfejléc jelzi, mennyit spórolt.

X-OmniRoute-Cache: HIT

Klienskompatibilitás

Tartsd meg a meglévő kódolóeszközeidet.

Irányíts egy OpenAI-kompatibilis CLI-t vagy szerkesztőt egy helyi alap URL-re; a mögötte lévő szolgáltatókat az OmniRoute kezeli.

Claude Code
Codex CLI
Cursor
Cline
GitHub Copilot
Gemini CLI
OpenCode
Kilo Code
Factory Droid
Continue
Roo Code
Antigravity
Aider
OpenClaw
Goose
Grok Build
Windsurf
Devin CLI

http://localhost:20128/v1

request.sh
curl http://localhost:20128/v1/chat/completions \
  -H "Authorization: Bearer $OMNIROUTE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Hello"}]}'

OmniCopilot

Használd az OmniRoute modelleket a Copilot Chatben.

Az OmniCopilot hozzáadja az OmniRoute modelleket a meglévő modellválasztóhoz.

Hivatalos Marketplace

Működik a VS Code stabil és Insiders kiadásában. Telepítsd a Marketplace-ről vagy az Extensions nézetből.

Open VSX Registry

Cursor, Windsurf, VSCodium, Theia, code-server, Gitpod és más kompatibilis szerkesztők számára.

Nem kell Copilot-előfizetés

A szolgáltatói modellek az OmniRoute-on keresztül futhatnak a Copilot Chatben, anélkül hogy az inferencia Copilot-előfizetésen menne át.

VS Code Marketplace (új lapon nyílik meg)Open VSX Registry (új lapon nyílik meg)OmniCopilot source (új lapon nyílik meg)

Gyakori hibamódok

Miért OmniRoute

Nézd meg, melyik vezérlő melyik gyakori hibamódot kezeli.

Without routing
With OmniRoute
A kvóta felhasználatlanul lejár
Kövesd és használd ki a már meglévő keretedet
A rate limitek feladat közben állítanak meg
4 szintű automatikus fallback milliszekundumok alatt
Az eszközkimenet tokeneket éget
12 motoros tömörítés, 15–95% a jogosult tartalmon
A drága API-k összeadódnak
A költségoptimalizált útválasztás a legolcsóbb jogosult célt választhatja
Minden eszköz külön beállítást igényel
Egy végpont és egy irányítópult
Egy szolgáltató nem érhető el a hálózatodról
Proxy-hatókörök és kliens-ujjlenyomat vezérlők
Egy halott kulcs kiüt egy szolgáltatót
Circuit breaker, lehűlés és zárolás izolálja a hibát
Egy csapat egy előfizetést használ
Kulcspoolok és arányos kvóták
Helyi kontroll kell az útválasztási adatok felett
Local-first tárolás titkosított hitelesítő adatokkal
Nincs rálátás a költésre és az állapotra
Használati, kvóta-, megtakarítási és késleltetési analitika

Dokumentációs pillanatkép

Így hasonlítanak az átjárók

A képességeket a hivatkozott projektdokumentációval vetettük össze, ellenőrizve: 2026-08-30.

KépességOmniRoute (új lapon nyílik meg)9Router (új lapon nyílik meg)LiteLLM (új lapon nyílik meg)CLIProxyAPI (új lapon nyílik meg)
Szolgáltatók35240+100+8+ upstreams
Útválasztási stratégiák193-tierretry / priorityround-robin / fill-first
Többszintű fallback felülettelYesYesManual policyMulti-account
Tokentömörítés12 engines · 15–95%RTK / Headroom / CavemanNo built-in pipelineHTTP compression

Nyilvános README és hivatalos dokumentáció pillanatképe; vásárlási vagy telepítési döntés előtt ellenőrizd a hivatkozott forrásokat.

Üzembe helyezés

9 támogatott módon futtathatod az OmniRoute-ot.

Telepítsd laptopra, szerverre vagy telefonra, vagy csatlakozz egy támogatott szerkesztőn és bővítményen keresztül.

npm

Egy parancs bármely támogatott asztali rendszeren

npm install -g omnirouteÚtmutató megnyitása (új lapon nyílik meg)

Docker

Többarchitektúrás AMD64 és ARM64 image

docker run … diegosouzapw/omnirouteÚtmutató megnyitása (új lapon nyílik meg)

Desktop

Natív ablak és tálcaikon Windowson, macOS-en és Linuxon

npm run electron:buildÚtmutató megnyitása (új lapon nyílik meg)

ARM

Raspberry Pi, ARM-szerverek és Apple Silicon

native arm64

Android · Termux

Androidon fut root nélkül

pkg install nodejs && npx -y omnirouteÚtmutató megnyitása (új lapon nyílik meg)

PWA

Teljes képernyős, offline is működő, böngészőből telepíthető

Add to Home ScreenÚtmutató megnyitása (új lapon nyílik meg)

OpenCode plugin

Natív OpenCode szolgáltatói bővítmény

@omniroute/opencode-providerÚtmutató megnyitása (új lapon nyílik meg)

VS Code

OmniRoute modellek a Copilot Chat választójában

Install OmniCopilotÚtmutató megnyitása (új lapon nyílik meg)

From source

Hackeld és járulj hozzá

npm install && npm run devÚtmutató megnyitása (új lapon nyílik meg)

Útválasztás

Válassz auto útvonalat.

Használj kész módot, vagy kombináld a 19 stratégiát a számodra fontos cél körül.

Modell · fallback bekapcsolvaautoBalanced default
OpenAI-kompatibilis kérés
curl http://localhost:20128/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Write a TypeScript retry helper."}]}'

Routing alias auto selected. Objective: Balanced default. Fallback enabled.

Előfizetési kvóta kimerítése

Használd el a meglévő kvótádat, mielőtt fizetős API-khoz nyúlnál.

priority · fill-first

Terhelés elosztása

Oszd el a forgalmat kulcsok és fiókok között, hogy csökkenjen a rate limit nyomása.

weighted · round-robin · p2c · least-used · headroom

Legolcsóbb először

Irányítás a legalacsonyabb költségű jogosult célra.

cost-optimized

Kontextustudatos

Tartsd a hosszú kontextusokat olyan modelleken, amelyekbe beleférnek, majd adj át, ha kell.

context-relay · context-optimized · cache-optimized

Véletlenszerű

Oszd el a jogosult forgalmat a célok között.

random · strict-random

Adaptív pontozás

15 tényezős pontozás, utolsó ismert jó állapot és resetet figyelő ablakok.

reset-window · reset-aware · lkgp · auto · fusion · pipeline

Ingyenes szintek elszámolása

Közzétett ingyenes kapacitás, deduplikálva.

455 katalógusbejegyzést 40 ismétlődő poolba deduplikálunk; a fő számot csak a közzétett pozitív keretek táplálják.

1.51B

A poolonként deduplikált elszámolás megakadályozza, hogy a megosztott kvóták többször számítsanak. A korlát nélküli szolgáltatók láthatók maradnak, de nem növelik a tokenösszeget. Checked 2026-08-30.

Számítás megtekintése (új lapon nyílik meg)
Ismétlődő vagy kulcs nélküli, örökre ingyenes szolgáltatók56
  • Mistral1B/month
  • LLM7150M/month
  • Nara150M/month
  • Gemini CLI · forever60M/month
  • Kiro50 credits/month
  • Qoder · foreverFree catalog
  • LongCat · forever50M/day
  • Cerebras1M/day
  • NVIDIA NIM~40 RPM
  • Pollinations · foreverNo key
  • Cloudflare Workers AI · foreverDaily neurons
  • OpenCode Free · foreverNo-auth catalog

Kontextustömörítés

Csökkentsd a jogosult tokeneket 15–95%-kal.

Az eszközkimenet, az ismétlődő kontextus és a felduzzadt strukturált adat tömöríthető, mielőtt eléri a modellt.

Kontextuscsökkenés 15–95% a jogosult tokeneken

Előtte: The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total. Utána: sum all list items where value > 0

  1. Session-Dedup
  2. CCR
  3. Lite
  4. RTK
  5. Responses Tool Output
  6. Headroom
  7. Relevance
  8. Caveman
  9. Aggressive
  10. LLMLingua-2
  11. Ultra
  12. OmniGlyph

Ugyanaz az utasítás. Kevesebb fizetendő kontextus.

Előtte69 tokens
The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total.
Utána19 tokens
sum all list items where value > 0

Kombinálható folyamat

  1. Session-Dedup
    Eldobja a munkamenetben korábban már elküldött tartalmat.
  2. CCR
    Archiválja a nagy blokkokat, és igény szerint visszaállítja.
  3. Lite
    Konzervatív, veszteségmentes tisztítást végez.
  4. RTK
    Szűri és deduplikálja a parancs- és eszközkimenetet.
  5. Responses Tool Output
    Tömöríti a Responses API eszköz-payloadjait.
  6. Headroom
    Visszafordítható táblázatos és strukturált adattömörítést végez.
  7. Relevance
    Megtartja a legutóbbi lekérdezéshez legrelevánsabb mondatokat.
  8. Caveman
    Szabályalapú prózatömörítést használ.
  9. Aggressive
    Erősebb, beállított metszést alkalmaz.
  10. LLMLingua-2
    Kódbiztos szemantikus metszés izolált workerben.
  11. Ultra
    Nagy megtakarítású lépések megőrző védelmekkel kombinálva.
  12. OmniGlyph
    Kompaktan kódolja a jogosult ismétlődő struktúrákat.

Profilok

Közzétett profiltartomány~30%x-omniroute-compression: standard

Standard tömörítés kiválasztva. Közzétett tartomány: ~30%.

Vezérlők és kimeneti stílusok

  • Nevesített profilok és aktív választó
  • Vizuális Compression Studio
  • Anthropic Context Editing
  • Adaptív kontextuskeret-tárcsa
  • Kérésenkénti \
  • fejléc
  • Offline eval-környezet
  • Tokenküszöb-alapú automatikus indítás
  • Terse prose
  • Less code (YAGNI)
  • Terse CJK 文言

Vezérlési sorrend: kérésfejléc → kombó → profil → adaptív szabály → alapértelmezés.

Hibaizoláció

Izoláld a szolgáltatói, kapcsolati és modellhibákat.

Egy rossz kulcs ne üssön ki egy szolgáltatót. Egy korlátozott modell ne üssön ki egy kapcsolatot.

modell ⊂ kapcsolat ⊂ szolgáltató
Szolgáltatói circuit breakerHa egy szolgáltató nem egészséges, a kombó-útválasztás kihagyja, amíg egy félig nyitott próba nem sikerül.
Kapcsolati lehűlésHűts le egy kulcsot vagy fiókot, míg a testvérkapcsolatok tovább kiszolgálnak.
ModellzárolásZárolj egy rate-limitelt vagy elérhetetlen modellt, míg a kapcsolat többi modellje elérhető marad.

Hálózati vezérlők

Hálózati útválasztás és helyi adatvezérlők.

A proxy-hatókörök a hálózati útválasztást szabályozzák, a local-first tárolás pedig a gépeden tartja az üzemi adatokat.

Három proxy-hatókör

Irányíts globálisan, szolgáltatónként vagy egyedi kapcsolatonként.

  • Globális · szolgáltatónként · kapcsolatonként
  • SOCKS5 és HTTP(S) proxyk
  • Proxy-piactér integráció

TLS- és kliens-ujjlenyomat vezérlők

Illeszkedj a támogatott szolgáltatói kliensekhez egészen a kiválasztott átviteli jellemzőkig.

  • JA3/JA4-képes átvitel wreq-js-en keresztül
  • Szolgáltatóspecifikus kliensprofilok
  • IPv4 és IPv6 kimeneti vezérlők

Privát és local-first

A kulcsok, a használat és az előzmények az általad felügyelt hoszton maradnak.

  • SQLite a lemezen, AES-256-GCM titkosított hitelesítő adatokkal
  • Nem kell OmniRoute-fiók
  • Saját hosztolás az általad választott infrastruktúrán
OroszországKínaIránKubaTörökország

Helyi irányítópult

Állítsd be az OmniRoute-ot YAML szerkesztése nélkül.

Kezeld a szolgáltatókat, kombókat, analitikát, állapotot és költségeket a localhost:20128/dashboard címen.

localhost:20128/dashboardPéldaadatok
352csatlakoztatott szolgáltató
90+elérhető ingyenes szint
198egészséges ebben a példában
  • Claude Code · OAuth · élő
  • Cerebras · ingyenes · élő
  • Groq · lehűlési példa
  • NVIDIA NIM · ingyenes · élő

Ágensprotokollok

Tedd elérhetővé az OmniRoute-ot MCP-n és A2A-n.

Az OmniRoute elérhetővé teheti az átjáróját MCP-kliensek, A2A-hálózatok és támogatott felhős kódolóágensek számára.

MCP-szerver

110 eszköz 33 hatókörben, stdio és HTTP átvitelen.

110 eszköz · 33 hatókör · stdio / HTTP

claude mcp add omniroute --type http --url http://localhost:20128/api/mcp/stream

A2A-szerver

6 készség intelligens útválasztásra, kvótára, felderítésre, költségelemzésre és állapotjelentésre JSON-RPC 2.0-n.

6 készség · JSON-RPC 2.0 · Agent Card

Felhőágensek

Kapcsold össze a támogatott Codex, Cursor, Devin és Jules munkafolyamatokat egy orkesztrációs felületen.

Codex · Cursor · Devin · Jules

További szolgáltatások

Bővítsd az átjárót.

Beágyazott szolgáltatások

Futtasd a Bifrostot, a 9Routert vagy a CLIProxyt felügyelt sidecarként, vagy üzemeltess teljes klaszterprofilt.

A tudásod, kontextusban

Kapcsold be a Notiont és az Obsidiant MCP-alapú kontextusforrásként.

Beépített guardrailek

Prompt-injection ellenőrzés, opcionális PII-kitakarás és egységesített biztonsági szűrők, szolgáltatói bezártság nélkül.

Használati célok

Kövesd a sorozatokat, eredményeket és élő megtakarításokat az üzemi analitika mellett.

A közösségtől

Így használják és tárgyalják az OmniRoute-ot.

Nézd meg, mit építenek, kérdeznek és osztanak meg a fejlesztők az X-en, a Redditen és a YouTube-on.

32 videó 32 csatornárólMind a 32 közösségi videó

Profile picture of Peng
Peng@pengsonal
Link to tweet (opens in a new tab)
one local endpoint for cursor / cline / claude code / copilot 😳 OmniRoute (24.7k★ on GitHub) runs a self-hosted router on your machine so you only need one base URL for all your coding agents. wha…

25 posts from X · 25 Reddit postsMinden bejegyzés

Nyíltan fejlesztve

Repository-aktivitás

Csillagok, forkok, közreműködők és kiadások a bekommitolt GitHub-pillanatképből.

  • 11,169fork
  • 832közreműködő
  • 281kiadás
  • 8,942beolvasztott PR
  • 5,072lezárt issue
  • 30,000automatizált teszt

Pillanatkép: 2026-10-16

Discord

Chat, támogatás és roadmap

(új lapon nyílik meg)

Telegram

Hírek és bejelentések

(új lapon nyílik meg)

WhatsApp 🌍

Globális közösség

(új lapon nyílik meg)

WhatsApp 🇧🇷

Comunidade Brasil

(új lapon nyílik meg)
Ismerd meg a közreműködőket (új lapon nyílik meg)

OmniRoute a Cheaper Inference-től

Válaszd ki, hogyan futtatod az OmniRoute-ot.

Hosztold magad az OmniRoute-ot, vagy kezdj a Cheaper Inference-szel egy hosztolt, költség szerint rangsorolt átjáróért.

Próbáld ki a Cheaper Inference-t Hosztold magad az OmniRoute-ot (új lapon nyílik meg)