OmniRouteby Cheaper Inference
OmniRoute on liittynyt osaksi Cheaper InferenceaTutustu Cheaper Inferenceen

#1 avoimen lähdekoodin AI-reititin

Reititä 352 palveluntarjoajan välillä yhden OpenAI-yhteensopivan päätepisteen kautta, automaattisella varareitityksellä.

Kokeile Cheaper InferenceaIsännöi OmniRoute itse (avautuu uuteen välilehteen)
OpenAI-yhteensopiva Ilmainen ja avoin lähdekoodi77.2k tähteä (avautuu uuteen välilehteen)

OmniRoute × Cheaper Inference

Yhdistä OmniRouten automaattinen varareititys ja kehittäjätyökalut Cheaper Inferencen kustannusjärjestettyyn markkinapaikkaan. Jokainen kelvollinen pyyntö alkaa halvimmasta saatavilla olevasta palveluntarjoajareitistä.

97 malliaSuora listahinta verrattuna Cheaper Inference -hintaan
Suorat listahinnat verrattuna Cheaper Inference -hintoihin malleittain
MalliSyötehintaTulostehintaSäästöKontekstiTiedot
gpt-5.6-lunaOpenAI · text$0.20$0.08/ 1M tokens$1.20$0.48/ 1M tokens60 % alennus1.1M
gpt-5.6-terraOpenAI · text$2.00$0.80/ 1M tokens$12.00$4.80/ 1M tokens60 % alennus1.1M
gpt-oss-120bOpenAI · text$0.10$0.040483/ 1M tokens$0.50$0.202417/ 1M tokens59.52 % alennus128K
deepseek-v4.1-flashDeepSeek · text$0.15$0.075/ 1M tokens$0.60$0.30/ 1M tokens50 % alennus1.0M
gpt-5.6-solOpenAI · text$4.00$2.00/ 1M tokens$20.00$10.00/ 1M tokens50 % alennus1.1M
glm-4.5Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45 % alennus128K
glm-4.6Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45 % alennus198K
glm-4.7Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45 % alennus128K
Näytetään 8 / 97 mallia
Suora listahinta → Cheaper Inference -hinta · Selaa kaikkia malleja · Näytä live-katalogi (avautuu uuteen välilehteen)Hinnoittelu tarkistettu 14.10.2026 klo 14.00 UTC. Hinnat voivat muuttua, kun ylävirran hinnoittelu tai saatavilla olevat reitit muuttuvat.

Keskeiset hallintakeinot

Yksi päätepiste määrittämillesi palveluntarjoajille.

Core control

Pidä pyynnöt liikkeessä

Kun kohde ei ole käytettävissä tai sen kiintiö on lopussa, OmniRoute valitsee seuraavan terveen kohteen.

Core control

Pakkaa kelvollinen konteksti

12 moottorin putki pienentää kelvollista kontekstia 15–95%. Dokumentoidussa työkalupainotteisessa esimerkissä säästö oli ~89%.

Core control

Aloitus 0 $

90+ ilmaista tasoa ja 56 toistuvaa tai avaimetonta ikuisesti ilmaista palveluntarjoajaa. Avaimeton pika-aloitus ei vaadi luottokorttia.

Core control

35 tuettua integraatiota

Määritä Claude Code, Codex, Cursor, Cline, Copilot, Antigravity ja muut tuetut asiakasohjelmat yhden päätepisteen kautta.

Core control

Yksi päätepiste

Vastaanota OpenAI-, Claude-, Gemini- ja Responses API -pyynnöt osoitteessa /v1.

Core control

Operatiiviset hallintakeinot

Katkaisimet, salatut tunnukset, MCP, A2A, muisti, suojakaiteet ja evaluoinnit toimitetaan itse isännöidyn yhdyskäytävän mukana.

Katalogi

Kaikki yhden päätepisteen takana.

Katalogi kattaa chatin, median, haun, paikalliset ajoympäristöt, pilviagentit ja järjestelmäintegraatiot.

352 palveluntarjoajaa

Jokainen niistä yhden paikallisen päätepisteen takana.

Yksi päätepiste, johon kaikki asiakasohjelmat osoittavathttp://localhost:20128/v1

14 Search12 Audio-only2 Upstream proxy3 Cloud agent1 System
OpenAIAnthropicGoogleDeepSeekxAIZ.aiMoonshotMiniMaxAlibabaMetaBytedanceAion Labs
25OAuthClaude Code, Codex, Cursor, GitHub Copilot, Kimi Code…
233API-avainOpenAI, Anthropic, Groq, NVIDIA, Cerebras, Mistral…
35Web-evästeChatGPT Web, Claude Web, Gemini Web, Grok Web…
14PaikallinenOllama, LM Studio, vLLM, llama.cpp…
13Ei todennustaOpenCode Free, Felo, Pollinations ja muut avaimettomat reitit…
Tutustu palveluntarjoajien referenssiin (opens in a new tab)

Pika-aloitus

Asenna, käynnistä, yhdistä.

Asenna paketti, käynnistä yhdyskäytävä ja osoita mikä tahansa OpenAI-yhteensopiva asiakasohjelma porttiin 20128.

Palveluntarjoajakatalogi
352
Reititysstrategiat
19
Paikallinen päätepiste
:20128/v1

Step 1: Asenna

Asenna omniroute npm-paketti globaalisti.

omniroute: install
$ npm install -g omnirouteadded 1 package

Step 2: Käynnistä

Käynnistä API ja hallintapaneeli yhdessä portissa 20128.

omniroute: run
$ omniroute▸ dashboard ✓ http://localhost:20128/dashboard▸ api ...... ✓ serving on :20128

Step 3: Yhdistä työkalusi

Käytä osoitetta http://localhost:20128/v1; avaimeton auto-reitti toimii heti tuoreessa asennuksessa.

omniroute: connect
$ curl localhost:20128/v1/models✓ models listed

Yhdyskäytävän hallintakeinot

Keskeiset yhdyskäytävän hallintakeinot yhdessä prosessissa.

Määritä varareititys, kiintiöt, pakkaus, muisti, MCP ja A2A paikallisesta hallintapaneelista.

Gateway control

Älykkäät combot

Aseta malliksi auto tai rakenna oma combo 19 strategialla ja porrastetulla varareitityksellä.

Käytä valmista tilaa tai yhdistele 19 strategiaa sinulle tärkeän tavoitteen ympärille.

Gateway control

Muisti

Pysyvä keskustelumuisti FTS5-avainsanahaulla ja Qdrant-vektorihaulla.

Gateway control

3 kerroksen vikasietoisuus

Palveluntarjoajan katkaisin, yhteyden jäähdytys ja mallin lukitus eristävät viat pienimmässä hyödyllisessä laajuudessa.

Gateway control

Ilmaiskiintiö

Poolikohtaisesti deduplikoitu laskenta 90+ ilmaisen tason yli.

Julkaistu ilmaistasojen kapasiteetti, deduplikoituna.

Gateway control

Pakkaus

12 yhdisteltävää moottoria työkalutulosteelle, kontekstille ja vastaustyylille.

Vähennä kelvollisia tokeneita 15–95%.

Gateway control

MCP-palvelin

Sisäänrakennettu palvelin, joka tarjoaa 110 yhdyskäytävätyökalua 33 laajuudessa.

110 työkalua · 33 laajuutta · stdio / HTTP

Gateway control

A2A-protokolla

JSON-RPC-agenttipalvelin, jossa on 6 taitoa.

6 taitoa · JSON-RPC 2.0 · Agent Card

Gateway control

Semanttinen välimuisti

Toistuva pyyntö voi palata välimuistista, ja vastausotsake kertoo, mitä se säästi.

X-OmniRoute-Cache: HIT

Asiakasohjelmien yhteensopivuus

Pidä nykyiset koodaustyökalusi.

Osoita OpenAI-yhteensopiva CLI tai editori yhteen paikalliseen perus-URL:iin; OmniRoute hoitaa palveluntarjoajat sen takana.

Claude Code
Codex CLI
Cursor
Cline
GitHub Copilot
Gemini CLI
OpenCode
Kilo Code
Factory Droid
Continue
Roo Code
Antigravity
Aider
OpenClaw
Goose
Grok Build
Windsurf
Devin CLI

http://localhost:20128/v1

request.sh
curl http://localhost:20128/v1/chat/completions \
  -H "Authorization: Bearer $OMNIROUTE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Hello"}]}'

OmniCopilot

Käytä OmniRoute-malleja Copilot Chatissa.

OmniCopilot lisää OmniRoute-mallit olemassa olevaan mallivalitsimeen.

Virallinen Marketplace

Toimii VS Code stable- ja Insiders-versioissa. Asenna Marketplacesta tai Extensions-näkymästä.

Open VSX Registry

Cursorille, Windsurfille, VSCodiumille, Theialle, code-serverille, Gitpodille ja muille yhteensopiville editoreille.

Ei Copilot-tilausta tarvita

Palveluntarjoajien mallit voivat toimia OmniRouten kautta Copilot Chatissa ilman, että inferenssi kulkee Copilot-tilauksen läpi.

VS Code Marketplace (avautuu uuteen välilehteen)Open VSX Registry (avautuu uuteen välilehteen)OmniCopilot source (avautuu uuteen välilehteen)

Yleiset vikatilanteet

Miksi OmniRoute

Katso, mikä hallintakeino ratkaisee kunkin yleisen vikatilanteen.

Without routing
With OmniRoute
Kiintiö vanhenee käyttämättä
Seuraa ja käytä loppuun kiintiö, joka sinulla jo on
Pyyntörajat pysäyttävät kesken työn
4 portaan automaattinen varareititys millisekunneissa
Työkalutuloste polttaa tokeneita
12 moottorin pakkaus, 15–95% kelvollisesta sisällöstä
Kalliit API:t kasautuvat
Kustannusoptimoitu reititys voi valita halvimman kelvollisen kohteen
Jokainen työkalu vaatii oman määrityksensä
Yksi päätepiste ja yksi hallintapaneeli
Palveluntarjoaja ei ole saatavilla verkostasi
Proxy-laajuudet ja asiakasohjelman sormenjälkihallinta
Yksi kuollut avain rikkoo palveluntarjoajan
Katkaisin, jäähdytys ja lukitus eristävät vian
Tiimi jakaa yhden tilauksen
Avainpoolit ja reilun jaon kiintiöt
Tarvitset reititysdatan paikallisen hallinnan
Paikallinen tallennus salatuilla tunnuksilla
Ei näkyvyyttä kuluihin tai terveyteen
Käyttö-, kiintiö-, säästö- ja latenssianalytiikka

Dokumentaation tilannekuva

Miten yhdyskäytävät vertautuvat

Ominaisuudet tarkistettu linkitetystä projektidokumentaatiosta 2026-08-30.

KyvykkyysOmniRoute (avautuu uuteen välilehteen)9Router (avautuu uuteen välilehteen)LiteLLM (avautuu uuteen välilehteen)CLIProxyAPI (avautuu uuteen välilehteen)
Palveluntarjoajat35240+100+8+ upstreams
Reititysstrategiat193-tierretry / priorityround-robin / fill-first
Porrastettu varareititys käyttöliittymälläYesYesManual policyMulti-account
Tokenien pakkaus12 engines · 15–95%RTK / Headroom / CavemanNo built-in pipelineHTTP compression

Julkisen README:n ja virallisen dokumentaation tilannekuva; varmista linkitetyt lähteet ennen osto- tai käyttöönottopäätöksiä.

Käyttöönotto

9 tuettua tapaa ajaa OmniRoutea.

Asenna kannettavalle, palvelimelle tai puhelimeen, tai yhdistä tuetun editorin ja liitännäisen kautta.

npm

Yksi komento millä tahansa tuetulla työpöytäkäyttöjärjestelmällä

npm install -g omnirouteAvaa opas (avautuu uuteen välilehteen)

Docker

Moniarkkitehtuurinen AMD64- ja ARM64-image

docker run … diegosouzapw/omnirouteAvaa opas (avautuu uuteen välilehteen)

Desktop

Natiivi ikkuna ja ilmaisinalue Windowsissa, macOS:ssä ja Linuxissa

npm run electron:buildAvaa opas (avautuu uuteen välilehteen)

ARM

Raspberry Pi, ARM-palvelimet ja Apple Silicon

native arm64

Android · Termux

Toimii Androidilla ilman root-oikeuksia

pkg install nodejs && npx -y omnirouteAvaa opas (avautuu uuteen välilehteen)

PWA

Koko näytön tila, offline-valmis ja asennettavissa selaimesta

Add to Home ScreenAvaa opas (avautuu uuteen välilehteen)

OpenCode plugin

Natiivi OpenCode-palveluntarjoajaliitännäinen

@omniroute/opencode-providerAvaa opas (avautuu uuteen välilehteen)

VS Code

OmniRoute-mallit Copilot Chatin mallivalitsimessa

Install OmniCopilotAvaa opas (avautuu uuteen välilehteen)

From source

Hakkeroi ja osallistu kehitykseen

npm install && npm run devAvaa opas (avautuu uuteen välilehteen)

Reititys

Valitse auto-reitti.

Käytä valmista tilaa tai yhdistele 19 strategiaa sinulle tärkeän tavoitteen ympärille.

Malli · varareititys käytössäautoBalanced default
OpenAI-yhteensopiva pyyntö
curl http://localhost:20128/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Write a TypeScript retry helper."}]}'

Routing alias auto selected. Objective: Balanced default. Fallback enabled.

Käytä tilauskiintiö loppuun

Käytä olemassa oleva kiintiö ennen maksullisia API-rajapintoja.

priority · fill-first

Jaa kuorma

Tasaa liikenne avainten ja tilien välillä pyyntörajapaineen vähentämiseksi.

weighted · round-robin · p2c · least-used · headroom

Halvin ensin

Reititä edullisimpaan kelvolliseen kohteeseen.

cost-optimized

Kontekstitietoinen

Pidä pitkät kontekstit malleissa, joihin ne mahtuvat, ja välitä eteenpäin tarvittaessa.

context-relay · context-optimized · cache-optimized

Satunnaistettu

Jaa kelvollinen liikenne kohteiden kesken.

random · strict-random

Mukautuva pisteytys

Käytä 15 tekijän pisteytystä, viimeksi toiminutta kohdetta ja nollaustietoisia ikkunoita.

reset-window · reset-aware · lkgp · auto · fusion · pipeline

Ilmaistasojen laskenta

Julkaistu ilmaistasojen kapasiteetti, deduplikoituna.

455 katalogimerkintää deduplikoidaan 40 toistuvaan pooliin; vain julkaistut positiiviset budjetit lasketaan otsikkolukuun.

1.51B

Poolikohtaisesti deduplikoitu laskenta estää jaettujen kiintiöiden laskemisen useammin kuin kerran. Rajattomat palveluntarjoajat pysyvät näkyvissä paisuttamatta tokenien kokonaismäärää. Checked 2026-08-30.

Näytä laskelma (avautuu uuteen välilehteen)
Toistuvat tai avaimettomat ikuisesti ilmaiset palveluntarjoajat56
  • Mistral1B/month
  • LLM7150M/month
  • Nara150M/month
  • Gemini CLI · forever60M/month
  • Kiro50 credits/month
  • Qoder · foreverFree catalog
  • LongCat · forever50M/day
  • Cerebras1M/day
  • NVIDIA NIM~40 RPM
  • Pollinations · foreverNo key
  • Cloudflare Workers AI · foreverDaily neurons
  • OpenCode Free · foreverNo-auth catalog

Kontekstin pakkaus

Vähennä kelvollisia tokeneita 15–95%.

Työkalutuloste, toistuva konteksti ja paisunut rakenteinen data voidaan pakata ennen kuin ne saapuvat mallille.

Kontekstia vähennetty 15–95% kelvollisista tokeneista

Ennen: The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total. Jälkeen: sum all list items where value > 0

  1. Session-Dedup
  2. CCR
  3. Lite
  4. RTK
  5. Responses Tool Output
  6. Headroom
  7. Relevance
  8. Caveman
  9. Aggressive
  10. LLMLingua-2
  11. Ultra
  12. OmniGlyph

Sama ohje. Vähemmän maksettavaa kontekstia.

Ennen69 tokens
The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total.
Jälkeen19 tokens
sum all list items where value > 0

Yhdisteltävä putki

  1. Session-Dedup
    Pudota sisältö, joka on jo lähetetty aiemmin istunnossa.
  2. CCR
    Arkistoi suuret lohkot ja palauta ne tarvittaessa.
  3. Lite
    Tee varovainen häviötön puhdistus.
  4. RTK
    Suodata ja deduplikoi komento- ja työkalutuloste.
  5. Responses Tool Output
    Tiivistä Responses API:n työkalukuormat.
  6. Headroom
    Tee palautettava taulukko- ja rakenteisen datan tiivistys.
  7. Relevance
    Säilytä viimeisimmän kyselyn kannalta olennaisimmat lauseet.
  8. Caveman
    Käytä sääntöpohjaista proosan tiivistystä.
  9. Aggressive
    Käytä vahvempaa määritettyä karsintaa.
  10. LLMLingua-2
    Käytä kooditurvallista semanttista karsintaa eristetyssä työprosessissa.
  11. Ultra
    Yhdistä suuren säästön vaiheet säilytyssuojiin.
  12. OmniGlyph
    Koodaa kelvolliset toistuvat rakenteet tiiviisti.

Profiilit

Julkaistu profiilin vaihteluväli~30%x-omniroute-compression: standard

Standard-pakkaus valittu. Julkaistu vaihteluväli ~30%.

Hallintakeinot ja tulostetyylit

  • Nimetyt profiilit ja aktiivinen valitsin
  • Visuaalinen Compression Studio
  • Anthropic Context Editing
  • Mukautuva kontekstibudjetin säädin
  • Pyyntökohtainen \
  • -otsake
  • Offline-evaluointikehikko
  • Tokenikynnyksen automaattilaukaisu
  • Terse prose
  • Less code (YAGNI)
  • Terse CJK 文言

Ohjauksen etusijajärjestys: pyyntöotsake → combo → profiili → mukautuva politiikka → oletus.

Vikojen eristys

Eristä palveluntarjoaja-, yhteys- ja mallivirheet.

Huono avain ei saa kaataa palveluntarjoajaa. Rajoitettu malli ei saa kaataa yhteyttä.

malli ⊂ yhteys ⊂ palveluntarjoaja
Palveluntarjoajan katkaisinKun palveluntarjoaja on epäterve, combo-reititys ohittaa sen, kunnes puoliavoin koetin onnistuu.
Yhteyden jäähdytysJäähdytä yksi avain tai tili, kun rinnakkaiset yhteydet jatkavat palvelemista.
Mallin lukitusLukitse yksi rajoitettu tai saavuttamaton malli, kun yhteyden muut mallit pysyvät käytettävissä.

Verkon hallinta

Verkon reititys ja paikallisen datan hallinta.

Proxy-laajuudet ohjaavat verkon reititystä, ja paikallinen tallennus pitää operatiivisen datan omalla koneellasi.

Kolme proxy-laajuutta

Reititä globaalisti, palveluntarjoajakohtaisesti tai yhteyskohtaisesti.

  • Globaali · palveluntarjoajakohtainen · yhteyskohtainen
  • SOCKS5- ja HTTP(S)-proxyt
  • Proxy-markkinapaikan integraatio

TLS- ja asiakasohjelman sormenjäljen hallinta

Vastaa tuettuja palveluntarjoajien asiakasohjelmia valittuja siirtokerroksen ominaisuuksia myöten.

  • JA3/JA4-kykyinen siirtokerros wreq-js:n kautta
  • Palveluntarjoajakohtaiset asiakasprofiilit
  • IPv4- ja IPv6-lähtöliikenteen hallinta

Yksityinen ja paikallinen

Avaimet, käyttö ja historia pysyvät hallitsemallasi isäntäkoneella.

  • SQLite levyllä, tunnukset salattu AES-256-GCM:llä
  • OmniRoute-tiliä ei tarvita
  • Isännöi itse valitsemassasi infrastruktuurissa
VenäjäKiinaIranKuubaTurkki

Paikallinen hallintapaneeli

Määritä OmniRoute muokkaamatta YAML-tiedostoja.

Hallitse palveluntarjoajia, comboja, analytiikkaa, terveyttä ja kustannuksia osoitteessa localhost:20128/dashboard.

localhost:20128/dashboardEsimerkkidata
352palveluntarjoajaa yhdistetty
90+ilmaista tasoa saatavilla
198tervettä tässä esimerkissä
  • Claude Code · OAuth · live
  • Cerebras · ilmainen · live
  • Groq · jäähdytysesimerkki
  • NVIDIA NIM · ilmainen · live

Agenttiprotokollat

Tarjoa OmniRoute MCP:n ja A2A:n yli.

OmniRoute voi tarjota yhdyskäytävänsä MCP-asiakkaille, A2A-verkoille ja tuetuille pilvikoodausagenteille.

MCP-palvelin

110 työkalua 33 laajuudessa stdio- ja HTTP-siirtokerrosten yli.

110 työkalua · 33 laajuutta · stdio / HTTP

claude mcp add omniroute --type http --url http://localhost:20128/api/mcp/stream

A2A-palvelin

6 taitoa älykkääseen reititykseen, kiintiöihin, löytämiseen, kustannusanalyysiin ja terveysraportointiin JSON-RPC 2.0:n yli.

6 taitoa · JSON-RPC 2.0 · Agent Card

Pilviagentit

Yhdistä tuetut Codex-, Cursor-, Devin- ja Jules-työnkulut yhden orkestrointipinnan kautta.

Codex · Cursor · Devin · Jules

Lisäpalvelut

Laajenna yhdyskäytävää.

Upotetut palvelut

Aja Bifrost, 9Router tai CLIProxy hallittuina sivuprosesseina tai operoi täyttä klusteriprofiilia.

Oma tietosi kontekstissa

Yhdistä Notion ja Obsidian MCP-pohjaisina kontekstilähteinä.

Sisäänrakennetut suojakaiteet

Prompt-injektiotarkistukset, valinnainen PII-peittäminen ja normalisoidut turvasuodattimet ilman palveluntarjoajalukkoa.

Käyttötavoitteet

Seuraa putkia, saavutuksia ja reaaliaikaisia säästöjä operatiivisen analytiikan rinnalla.

Yhteisöltä

Miten OmniRoutea käytetään ja siitä keskustellaan.

Katso, mitä kehittäjät rakentavat, kysyvät ja jakavat X:ssä, Redditissä ja YouTubessa.

32 videota 32 kanavaltaKatso kaikki 32 yhteisön videota

Profile picture of Peng
Peng@pengsonal
Link to tweet (opens in a new tab)
one local endpoint for cursor / cline / claude code / copilot 😳 OmniRoute (24.7k★ on GitHub) runs a self-hosted router on your machine so you only need one base URL for all your coding agents. wha…

25 posts from X · 25 Reddit postsKatso kaikki julkaisut

Rakennettu avoimesti

Repositorion aktiivisuus

Katso tähdet, forkit, kontribuuttorit ja julkaisut sisäänkirjatusta GitHub-tilannekuvasta.

  • 11,169forkkia
  • 832kontribuuttoria
  • 281julkaisua toimitettu
  • 8,942PR:ää yhdistetty
  • 5,072issueta suljettu
  • 30,000automaattista testiä

Tilannekuva 2026-10-16

Discord

Chat, tuki ja tiekartta

(avautuu uuteen välilehteen)

Telegram

Uutiset ja tiedotteet

(avautuu uuteen välilehteen)

WhatsApp 🌍

Globaali yhteisö

(avautuu uuteen välilehteen)

WhatsApp 🇧🇷

Comunidade Brasil

(avautuu uuteen välilehteen)
Tutustu kontribuuttoreihin (avautuu uuteen välilehteen)

OmniRoute by Cheaper Inference

Valitse, miten ajat OmniRoutea.

Isännöi OmniRoute itse tai aloita Cheaper Inferencellä, hostatulla kustannusjärjestetyllä yhdyskäytävällä.

Kokeile Cheaper Inferencea Isännöi OmniRoute itse (avautuu uuteen välilehteen)