OmniRouteby Cheaper Inference
OmniRoute har blitt en del av Cheaper InferenceUtforsk Cheaper Inference

#1 AI-ruter med åpen kildekode

Rut på tvers av 352 leverandører gjennom ett OpenAI-kompatibelt endepunkt, med automatisk fallback.

Prøv Cheaper InferenceHost OmniRoute selv (åpnes i ny fane)
OpenAI-kompatibel Gratis og åpen kildekode77.2k stjerner (åpnes i ny fane)

OmniRoute × Cheaper Inference

Kombiner OmniRoutes automatiske fallback og utviklerverktøy med Cheaper Inferences kostnadsrangerte markedsplass. Hver kvalifiserte forespørsel starter med den billigste tilgjengelige leverandørruten.

97 modellerDirekte listepris sammenlignet med Cheaper Inference-prisen
Direkte listepriser sammenlignet med Cheaper Inference-priser per modell
ModellInputprisOutputprisBesparelseKontekstDetaljer
gpt-5.6-lunaOpenAI · text$0.20$0.08/ 1M tokens$1.20$0.48/ 1M tokens60 % rabatt1.1M
gpt-5.6-terraOpenAI · text$2.00$0.80/ 1M tokens$12.00$4.80/ 1M tokens60 % rabatt1.1M
gpt-oss-120bOpenAI · text$0.10$0.040483/ 1M tokens$0.50$0.202417/ 1M tokens59.52 % rabatt128K
deepseek-v4.1-flashDeepSeek · text$0.15$0.075/ 1M tokens$0.60$0.30/ 1M tokens50 % rabatt1.0M
gpt-5.6-solOpenAI · text$4.00$2.00/ 1M tokens$20.00$10.00/ 1M tokens50 % rabatt1.1M
glm-4.5Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45 % rabatt128K
glm-4.6Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45 % rabatt198K
glm-4.7Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45 % rabatt128K
Viser 8 av 97 modeller
Direkte listepris → Cheaper Inference-pris · Bla gjennom alle modeller · Se live-katalogen (åpnes i ny fane)Priser kontrollert 14. okt. 2026, 14:00 UTC. Satsene kan endres når oppstrøms priser eller tilgjengelige ruter endres.

Kjernekontroller

Ett endepunkt for leverandørene du har konfigurert.

Core control

Hold forespørslene i gang

Når et mål er utilgjengelig eller uten kvote, velger OmniRoute neste friske mål.

Core control

Komprimer kvalifisert kontekst

En pipeline med 12 motorer reduserer kvalifisert kontekst med 15–95%. Det dokumenterte verktøytunge eksemplet reduserte den med ~89%.

Core control

Start for $0

90+ gratisnivåer og 56 gjentakende eller nøkkelløse leverandører som er gratis for alltid. Ingen kredittkort kreves for den nøkkelløse hurtigstarten.

Core control

35 støttede integrasjoner

Konfigurer Claude Code, Codex, Cursor, Cline, Copilot, Antigravity og andre støttede klienter gjennom ett endepunkt.

Core control

Ett endepunkt

Ta imot OpenAI-, Claude-, Gemini- og Responses API-forespørsler på /v1.

Core control

Driftskontroller

Kretsbrytere, krypterte påloggingsdetaljer, MCP, A2A, minne, guardrails og evals følger med den selvhostede gatewayen.

Katalogen

Alle bak ett endepunkt.

En katalog som spenner over chat, media, søk, lokale kjøretider, skyagenter og systemintegrasjoner.

352 leverandører

Hver og en av dem, bak ett enkelt lokalt endepunkt.

Det ene endepunktet alle klienter peker mothttp://localhost:20128/v1

14 Search12 Audio-only2 Upstream proxy3 Cloud agent1 System
OpenAIAnthropicGoogleDeepSeekxAIZ.aiMoonshotMiniMaxAlibabaMetaBytedanceAion Labs
25OAuthClaude Code, Codex, Cursor, GitHub Copilot, Kimi Code…
233API-nøkkelOpenAI, Anthropic, Groq, NVIDIA, Cerebras, Mistral…
35Web-cookieChatGPT Web, Claude Web, Gemini Web, Grok Web…
14LokalOllama, LM Studio, vLLM, llama.cpp…
13Ingen autentiseringOpenCode Free, Felo, Pollinations og andre nøkkelløse ruter…
Utforsk leverandørreferansen (opens in a new tab)

Hurtigstart

Installer, kjør, koble til.

Installer pakken, start gatewayen og pek en hvilken som helst OpenAI-kompatibel klient mot port 20128.

Leverandørkatalog
352
Rutingstrategier
19
Lokalt endepunkt
:20128/v1

Step 1: Installer

Installer npm-pakken omniroute globalt.

omniroute: install
$ npm install -g omnirouteadded 1 package

Step 2: Kjør

Start API og dashbord sammen på port 20128.

omniroute: run
$ omniroute▸ dashboard ✓ http://localhost:20128/dashboard▸ api ...... ✓ serving on :20128

Step 3: Koble til verktøyet ditt

Bruk http://localhost:20128/v1; den nøkkelløse auto-ruten fungerer på en fersk installasjon.

omniroute: connect
$ curl localhost:20128/v1/models✓ models listed

Gateway-kontroller

Kjernekontroller for gatewayen i én prosess.

Konfigurer fallback, kvote, komprimering, minne, MCP og A2A fra det lokale dashbordet.

Gateway control

Smarte komboer

Sett en modell til auto eller bygg din egen kombo med 19 strategier og lagdelt fallback.

Bruk en ferdig modus eller kombiner 19 strategier rundt målet som betyr noe.

Gateway control

Minne

Vedvarende samtaleminne med FTS5-nøkkelord og Qdrant-vektorgjenkalling.

Gateway control

Robusthet i 3 lag

Leverandørbryter, tilkoblingsnedkjøling og modellsperre isolerer feil i minste nyttige omfang.

Gateway control

Gratiskvote

Pool-deduplisert regnskap på tvers av 90+ gratisnivåer.

Publisert gratisnivåkapasitet, deduplisert.

Gateway control

Komprimering

12 komponerbare motorer for verktøyutdata, kontekst og svarstil.

Reduser kvalifiserte tokens med 15–95%.

Gateway control

MCP-server

En innebygd server som eksponerer 110 gateway-verktøy på tvers av 33 omfang.

110 verktøy · 33 omfang · stdio / HTTP

Gateway control

A2A-protokoll

En JSON-RPC-agentserver med 6 ferdigheter.

6 ferdigheter · JSON-RPC 2.0 · Agent Card

Gateway control

Semantisk cache

En gjentatt forespørsel kan returneres fra cache, og svarheaderen rapporterer hva det sparte.

X-OmniRoute-Cache: HIT

Klientkompatibilitet

Behold kodeverktøyene du allerede har.

Pek en OpenAI-kompatibel CLI eller editor mot én lokal base-URL; OmniRoute håndterer leverandørene bak.

Claude Code
Codex CLI
Cursor
Cline
GitHub Copilot
Gemini CLI
OpenCode
Kilo Code
Factory Droid
Continue
Roo Code
Antigravity
Aider
OpenClaw
Goose
Grok Build
Windsurf
Devin CLI

http://localhost:20128/v1

request.sh
curl http://localhost:20128/v1/chat/completions \
  -H "Authorization: Bearer $OMNIROUTE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Hello"}]}'

OmniCopilot

Bruk OmniRoute-modeller i Copilot Chat.

OmniCopilot legger OmniRoute-modeller til i den eksisterende modellvelgeren.

Offisiell Marketplace

Fungerer i VS Code stable og Insiders. Installer fra Marketplace eller Extensions-visningen.

Open VSX Registry

For Cursor, Windsurf, VSCodium, Theia, code-server, Gitpod og andre kompatible editorer.

Ingen Copilot-plan nødvendig

Leverandørmodeller kan kjøre gjennom OmniRoute i Copilot Chat uten å rute inferens gjennom en Copilot-plan.

VS Code Marketplace (åpnes i ny fane)Open VSX Registry (åpnes i ny fane)OmniCopilot source (åpnes i ny fane)

Vanlige feilmodi

Hvorfor OmniRoute

Se hvilken kontroll som løser hver vanlige feilmodus.

Without routing
With OmniRoute
Kvoten utløper ubrukt
Spor og bruk opp kvoten du allerede har
Rategrenser stopper deg midt i oppgaven
Auto-fallback i 4 nivåer på millisekunder
Verktøyutdata brenner tokens
Komprimering med 12 motorer, 15–95% på kvalifisert innhold
Dyre API-er summerer seg
Kostnadsoptimalisert ruting kan velge det billigste kvalifiserte målet
Hvert verktøy trenger sitt eget oppsett
Ett endepunkt og ett dashbord
En leverandør er utilgjengelig fra nettverket ditt
Proxy-omfang og kontroll over klientfingeravtrykk
Én død nøkkel ødelegger en leverandør
Bryter, nedkjøling og sperre isolerer feilen
Et team deler ett abonnement
Nøkkelpooler og rettferdig kvotefordeling
Du trenger lokal kontroll over rutingdata
Lokal lagring først, med krypterte påloggingsdetaljer
Ingen innsyn i forbruk eller helse
Analyse av bruk, kvote, besparelser og latens

Dokumentasjonsstatus

Slik sammenlignes gatewayene

Funksjoner kontrollert mot den lenkede prosjektdokumentasjonen 2026-08-30.

FunksjonOmniRoute (åpnes i ny fane)9Router (åpnes i ny fane)LiteLLM (åpnes i ny fane)CLIProxyAPI (åpnes i ny fane)
Leverandører35240+100+8+ upstreams
Rutingstrategier193-tierretry / priorityround-robin / fill-first
Lagdelt fallback med UIYesYesManual policyMulti-account
Tokenkomprimering12 engines · 15–95%RTK / Headroom / CavemanNo built-in pipelineHTTP compression

Øyeblikksbilde av offentlig README og offisiell dokumentasjon; verifiser lenkede kilder før kjøps- eller distribusjonsbeslutninger.

Distribusjon

9 støttede måter å kjøre OmniRoute.

Installer det på en laptop, server eller telefon, eller koble til gjennom en støttet editor og plugin.

npm

Én kommando på alle støttede desktop-OS

npm install -g omnirouteÅpne guide (åpnes i ny fane)

Docker

Multi-arch-image for AMD64 og ARM64

docker run … diegosouzapw/omnirouteÅpne guide (åpnes i ny fane)

Desktop

Eget vindu og systemstatusfelt på Windows, macOS og Linux

npm run electron:buildÅpne guide (åpnes i ny fane)

ARM

Raspberry Pi, ARM-servere og Apple Silicon

native arm64

Android · Termux

Kjører på Android uten root

pkg install nodejs && npx -y omnirouteÅpne guide (åpnes i ny fane)

PWA

Fullskjerm, fungerer offline og kan installeres fra en nettleser

Add to Home ScreenÅpne guide (åpnes i ny fane)

OpenCode plugin

Innebygd OpenCode-leverandørplugin

@omniroute/opencode-providerÅpne guide (åpnes i ny fane)

VS Code

OmniRoute-modeller i Copilot Chat-velgeren

Install OmniCopilotÅpne guide (åpnes i ny fane)

From source

Hack på det og bidra

npm install && npm run devÅpne guide (åpnes i ny fane)

Ruting

Velg en auto-rute.

Bruk en ferdig modus eller kombiner 19 strategier rundt målet som betyr noe.

Modell · fallback aktivertautoBalanced default
OpenAI-kompatibel forespørsel
curl http://localhost:20128/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Write a TypeScript retry helper."}]}'

Routing alias auto selected. Objective: Balanced default. Fallback enabled.

Bruk opp abonnementskvoten

Bruk kvoten du allerede har før du rører betalte API-er.

priority · fill-first

Spre lasten

Balanser trafikk på tvers av nøkler og kontoer for å redusere presset fra rategrenser.

weighted · round-robin · p2c · least-used · headroom

Billigst først

Rut til det kvalifiserte målet med lavest kostnad.

cost-optimized

Kontekstbevisst

Hold lange kontekster på modeller som har plass, og videresend ved behov.

context-relay · context-optimized · cache-optimized

Tilfeldig

Fordel kvalifisert trafikk på tvers av mål.

random · strict-random

Adaptiv scoring

Bruk scoring med 15 faktorer, sist kjente fungerende og reset-bevisste vinduer.

reset-window · reset-aware · lkgp · auto · fusion · pipeline

Gratisnivå-regnskap

Publisert gratisnivåkapasitet, deduplisert.

455 katalogoppføringer dedupliseres til 40 gjentakende pooler; bare publiserte positive budsjetter inngår i hovedtallet.

1.51B

Pool-deduplisert regnskap hindrer at delte kvoter telles mer enn én gang. Leverandører uten tak forblir synlige uten å blåse opp tokentotalen. Checked 2026-08-30.

Se utregningen (åpnes i ny fane)
Gjentakende eller nøkkelløse leverandører som er gratis for alltid56
  • Mistral1B/month
  • LLM7150M/month
  • Nara150M/month
  • Gemini CLI · forever60M/month
  • Kiro50 credits/month
  • Qoder · foreverFree catalog
  • LongCat · forever50M/day
  • Cerebras1M/day
  • NVIDIA NIM~40 RPM
  • Pollinations · foreverNo key
  • Cloudflare Workers AI · foreverDaily neurons
  • OpenCode Free · foreverNo-auth catalog

Kontekstkomprimering

Reduser kvalifiserte tokens med 15–95%.

Verktøyutdata, gjentatt kontekst og oppblåste strukturerte data kan komprimeres før de når modellen.

Kontekst redusert med 15–95% på kvalifiserte tokens

Før: The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total. Etter: sum all list items where value > 0

  1. Session-Dedup
  2. CCR
  3. Lite
  4. RTK
  5. Responses Tool Output
  6. Headroom
  7. Relevance
  8. Caveman
  9. Aggressive
  10. LLMLingua-2
  11. Ultra
  12. OmniGlyph

Samme instruksjon. Mindre kontekst å betale for.

Før69 tokens
The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total.
Etter19 tokens
sum all list items where value > 0

Komponerbar pipeline

  1. Session-Dedup
    Dropp innhold som allerede er sendt tidligere i sesjonen.
  2. CCR
    Arkiver store blokker og gjenopprett dem ved behov.
  3. Lite
    Bruk konservativ, tapsfri opprydding.
  4. RTK
    Filtrer og dedupliser kommando- og verktøyutdata.
  5. Responses Tool Output
    Komprimer Responses API-verktøylaster.
  6. Headroom
    Bruk reversibel komprimering av tabell- og strukturerte data.
  7. Relevance
    Behold setningene som er mest relevante for siste spørring.
  8. Caveman
    Bruk regelbasert fortetting av prosa.
  9. Aggressive
    Bruk sterkere konfigurert beskjæring.
  10. LLMLingua-2
    Bruk kodesikker semantisk beskjæring i en isolert worker.
  11. Ultra
    Kombiner trinn med høy besparelse med bevaringsvern.
  12. OmniGlyph
    Kod kvalifiserte gjentatte strukturer kompakt.

Profiler

Publisert profilområde~30%x-omniroute-compression: standard

Standard-komprimering valgt. Publisert område ~30%.

Kontroller og utdatastiler

  • Navngitte profiler og aktiv velger
  • Visual Compression Studio
  • Anthropic Context Editing
  • Adaptiv kontekstbudsjett-regulator
  • Per forespørsel \
  • header
  • Offline eval-rammeverk
  • Auto-utløser ved tokengrense
  • Terse prose
  • Less code (YAGNI)
  • Terse CJK 文言

Kontrollprioritet: forespørselsheader → kombo → profil → adaptiv policy → standard.

Feilisolering

Isoler feil i leverandør, tilkobling og modell.

En dårlig nøkkel skal ikke ta ned en leverandør. En begrenset modell skal ikke ta ned en tilkobling.

modell ⊂ tilkobling ⊂ leverandør
Kretsbryter for leverandørNår en leverandør er usunn, hopper komborutingen over den til en halvåpen probe lykkes.
Nedkjøling av tilkoblingKjøl ned én nøkkel eller konto mens søskentilkoblinger fortsetter å levere.
ModellsperreSperr én ratebegrenset eller utilgjengelig modell mens andre modeller på tilkoblingen forblir tilgjengelige.

Nettverkskontroller

Nettverksruting og kontroll over lokale data.

Proxy-omfang styrer nettverksrutingen, mens lokal lagring først holder driftsdata på din maskin.

Tre proxy-omfang

Rut globalt, per leverandør eller per enkelt tilkobling.

  • Globalt · per leverandør · per tilkobling
  • SOCKS5- og HTTP(S)-proxyer
  • Integrasjon med proxy-markedsplass

Kontroll over TLS- og klientfingeravtrykk

Match støttede leverandørklienter ned til utvalgte transportegenskaper.

  • JA3/JA4-kapabel transport via wreq-js
  • Leverandørspesifikke klientprofiler
  • Kontroll over IPv4- og IPv6-utgang

Privat og lokalt først

Nøkler, bruk og historikk blir på verten du kontrollerer.

  • SQLite på disk med AES-256-GCM-krypterte påloggingsdetaljer
  • Ingen OmniRoute-konto nødvendig
  • Selvhost på infrastruktur du velger
RusslandKinaIranCubaTyrkia

Lokalt dashbord

Konfigurer OmniRoute uten å redigere YAML.

Administrer leverandører, komboer, analyse, helse og kostnader på localhost:20128/dashboard.

localhost:20128/dashboardEksempeldata
352leverandører tilkoblet
90+gratisnivåer tilgjengelig
198friske i dette eksemplet
  • Claude Code · OAuth · live
  • Cerebras · gratis · live
  • Groq · eksempel på nedkjøling
  • NVIDIA NIM · gratis · live

Agentprotokoller

Eksponer OmniRoute over MCP og A2A.

OmniRoute kan eksponere gatewayen sin for MCP-klienter, A2A-nettverk og støttede skybaserte kodeagenter.

MCP-server

110 verktøy på tvers av 33 omfang over stdio- og HTTP-transport.

110 verktøy · 33 omfang · stdio / HTTP

claude mcp add omniroute --type http --url http://localhost:20128/api/mcp/stream

A2A-server

6 ferdigheter for smart ruting, kvote, oppdagelse, kostnadsanalyse og helserapportering over JSON-RPC 2.0.

6 ferdigheter · JSON-RPC 2.0 · Agent Card

Skyagenter

Koble til støttede Codex-, Cursor-, Devin- og Jules-arbeidsflyter gjennom én orkestreringsflate.

Codex · Cursor · Devin · Jules

Flere tjenester

Utvid gatewayen.

Innebygde tjenester

Kjør Bifrost, 9Router eller CLIProxy som administrerte sidecars, eller drift en full klyngeprofil.

Din kunnskap, i kontekst

Koble til Notion og Obsidian som MCP-baserte kontekstkilder.

Innebygde guardrails

Prompt-injection-sjekker, valgfri PII-maskering og normaliserte sikkerhetsfiltre uten leverandørbinding.

Bruksmål

Spor streaks, prestasjoner og løpende besparelser ved siden av driftsanalysen.

Fra fellesskapet

Slik brukes og diskuteres OmniRoute.

Se hva utviklere bygger, spør om og deler på X, Reddit og YouTube.

32 videoer fra 32 kanalerSe alle 32 videoer fra fellesskapet

Profile picture of Peng
Peng@pengsonal
Link to tweet (opens in a new tab)
one local endpoint for cursor / cline / claude code / copilot 😳 OmniRoute (24.7k★ on GitHub) runs a self-hosted router on your machine so you only need one base URL for all your coding agents. wha…

25 posts from X · 25 Reddit postsSe alle innlegg

Bygget i det åpne

Aktivitet i repoet

Se stjerner, forks, bidragsytere og utgivelser fra det innsjekkede GitHub-øyeblikksbildet.

  • 11,169forks
  • 832bidragsytere
  • 281utgivelser levert
  • 8,942PR-er slått sammen
  • 5,072issues lukket
  • 30,000automatiserte tester

Øyeblikksbilde fra 2026-10-16

Discord

Chat, support og roadmap

(åpnes i ny fane)

Telegram

Nyheter og kunngjøringer

(åpnes i ny fane)

WhatsApp 🌍

Globalt fellesskap

(åpnes i ny fane)

WhatsApp 🇧🇷

Comunidade Brasil

(åpnes i ny fane)
Møt bidragsyterne (åpnes i ny fane)

OmniRoute fra Cheaper Inference

Velg hvordan du kjører OmniRoute.

Selvhost OmniRoute, eller start med Cheaper Inference for en hostet, kostnadsrangert gateway.

Prøv Cheaper Inference Host OmniRoute selv (åpnes i ny fane)