OmniRouteby Cheaper Inference
OmniRoute dołączył do Cheaper InferencePoznaj Cheaper Inference

Router AI open source nr 1

Kieruj ruch do 352 dostawców przez jeden endpoint zgodny z OpenAI, z automatycznym fallbackiem.

Wypróbuj Cheaper InferenceHostuj OmniRoute samodzielnie (otwiera się w nowej karcie)
Zgodny z OpenAI Darmowy i open source77.2k gwiazdek (otwiera się w nowej karcie)

OmniRoute × Cheaper Inference

Połącz automatyczny fallback i narzędzia deweloperskie OmniRoute z marketplace Cheaper Inference z rankingiem kosztów. Każde kwalifikujące się żądanie zaczyna od najtańszej dostępnej trasy dostawcy.

97 modeliCena katalogowa w porównaniu z ceną Cheaper Inference
Ceny katalogowe w porównaniu z cenami Cheaper Inference według modelu
ModelCena wejściaCena wyjściaOszczędnośćKontekstSzczegóły
gpt-5.6-lunaOpenAI · text$0.20$0.08/ 1M tokens$1.20$0.48/ 1M tokens60% taniej1.1M
gpt-5.6-terraOpenAI · text$2.00$0.80/ 1M tokens$12.00$4.80/ 1M tokens60% taniej1.1M
gpt-oss-120bOpenAI · text$0.10$0.040483/ 1M tokens$0.50$0.202417/ 1M tokens59.52% taniej128K
deepseek-v4.1-flashDeepSeek · text$0.15$0.075/ 1M tokens$0.60$0.30/ 1M tokens50% taniej1.0M
gpt-5.6-solOpenAI · text$4.00$2.00/ 1M tokens$20.00$10.00/ 1M tokens50% taniej1.1M
glm-4.5Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45% taniej128K
glm-4.6Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45% taniej198K
glm-4.7Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45% taniej128K
Wyświetlono 8 z 97 modeli
Cena katalogowa → cena Cheaper Inference · Przeglądaj wszystkie modele · Zobacz katalog na żywo (otwiera się w nowej karcie)Ceny sprawdzono 14 paź 2026, 14:00 UTC. Stawki mogą się zmienić wraz z cenami upstreamu lub dostępnymi trasami.

Główne mechanizmy

Jeden endpoint dla skonfigurowanych dostawców.

Core control

Żądania płyną dalej

Gdy cel jest niedostępny lub wyczerpał limit, OmniRoute wybiera kolejny sprawny cel.

Core control

Kompresuj kwalifikujący się kontekst

Potok z 12 silnikami zmniejsza kwalifikujący się kontekst o 15–95%. W udokumentowanym przykładzie z dużą liczbą narzędzi redukcja wyniosła ~89%.

Core control

Start za 0 $

90+ darmowych planów i 56 dostawców odnawialnych lub bezkluczowych, darmowych na zawsze. Szybki start bez klucza nie wymaga karty kredytowej.

Core control

35 wspieranych integracji

Skonfiguruj Claude Code, Codex, Cursor, Cline, Copilot, Antigravity i inne wspierane klienty przez jeden endpoint.

Core control

Jeden endpoint

Przyjmuj żądania OpenAI, Claude, Gemini i Responses API pod /v1.

Core control

Kontrola operacyjna

Bezpieczniki, szyfrowane poświadczenia, MCP, A2A, pamięć, guardrails i ewaluacje są częścią samodzielnie hostowanej bramy.

Katalog

Wszystko za jednym endpointem.

Katalog obejmuje chat, media, wyszukiwanie, lokalne środowiska, agentów w chmurze i integracje systemowe.

352 dostawców

Każdy z nich, za jednym lokalnym endpointem.

Jeden endpoint, na który wskazuje każdy klienthttp://localhost:20128/v1

14 Search12 Audio-only2 Upstream proxy3 Cloud agent1 System
OpenAIAnthropicGoogleDeepSeekxAIZ.aiMoonshotMiniMaxAlibabaMetaBytedanceAion Labs
25OAuthClaude Code, Codex, Cursor, GitHub Copilot, Kimi Code…
233Klucz APIOpenAI, Anthropic, Groq, NVIDIA, Cerebras, Mistral…
35Ciasteczko webChatGPT Web, Claude Web, Gemini Web, Grok Web…
14LokalneOllama, LM Studio, vLLM, llama.cpp…
13Bez uwierzytelnianiaOpenCode Free, Felo, Pollinations i inne trasy bez klucza…
Przeglądaj katalog dostawców (opens in a new tab)

Szybki start

Zainstaluj, uruchom, połącz.

Zainstaluj pakiet, uruchom bramę i wskaż dowolnemu klientowi zgodnemu z OpenAI port 20128.

Katalog dostawców
352
Strategie routingu
19
Lokalny endpoint
:20128/v1

Step 1: Instalacja

Zainstaluj globalnie pakiet npm omniroute.

omniroute: install
$ npm install -g omnirouteadded 1 package

Step 2: Uruchomienie

Uruchom API i panel razem na porcie 20128.

omniroute: run
$ omniroute▸ dashboard ✓ http://localhost:20128/dashboard▸ api ...... ✓ serving on :20128

Step 3: Połącz swoje narzędzie

Użyj http://localhost:20128/v1; trasa auto bez klucza działa od razu po instalacji.

omniroute: connect
$ curl localhost:20128/v1/models✓ models listed

Mechanizmy bramy

Główne mechanizmy bramy w jednym procesie.

Skonfiguruj fallback, limity, kompresję, pamięć, MCP i A2A z lokalnego panelu.

Gateway control

Smart Combos

Ustaw model na auto lub zbuduj własne combo z 19 strategiami i wielopoziomowym fallbackiem.

Użyj gotowego trybu lub połącz 19 strategii wokół celu, który ma znaczenie.

Gateway control

Pamięć

Trwała pamięć konwersacji z wyszukiwaniem słów kluczowych FTS5 i wektorowym Qdrant.

Gateway control

Odporność w 3 warstwach

Bezpiecznik dostawcy, cooldown połączenia i blokada modelu izolują awarie w najmniejszym sensownym zakresie.

Gateway control

Darmowy limit

Rozliczanie z deduplikacją pul dla 90+ darmowych planów.

Opublikowana pojemność darmowych planów, bez duplikatów.

Gateway control

Kompresja

12 składalnych silników dla wyjścia narzędzi, kontekstu i stylu odpowiedzi.

Zmniejsz kwalifikujące się tokeny o 15–95%.

Gateway control

Serwer MCP

Wbudowany serwer udostępniający 110 narzędzi bramy w 33 zakresach.

110 narzędzi · 33 zakresów · stdio / HTTP

Gateway control

Protokół A2A

Serwer agentów JSON-RPC z 6 umiejętnościami.

6 umiejętności · JSON-RPC 2.0 · Agent Card

Gateway control

Cache semantyczny

Powtórzone żądanie może wrócić z cache, a nagłówek odpowiedzi pokazuje, ile to zaoszczędziło.

X-OmniRoute-Cache: HIT

Zgodność klientów

Zachowaj swoje obecne narzędzia.

Wskaż CLI lub edytorowi zgodnemu z OpenAI jeden lokalny base URL; OmniRoute zajmie się dostawcami za nim.

Claude Code
Codex CLI
Cursor
Cline
GitHub Copilot
Gemini CLI
OpenCode
Kilo Code
Factory Droid
Continue
Roo Code
Antigravity
Aider
OpenClaw
Goose
Grok Build
Windsurf
Devin CLI

http://localhost:20128/v1

request.sh
curl http://localhost:20128/v1/chat/completions \
  -H "Authorization: Bearer $OMNIROUTE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Hello"}]}'

OmniCopilot

Używaj modeli OmniRoute w Copilot Chat.

OmniCopilot dodaje modele OmniRoute do istniejącego wyboru modeli.

Oficjalny Marketplace

Działa w VS Code stable i Insiders. Zainstaluj z Marketplace lub z widoku rozszerzeń.

Rejestr Open VSX

Dla Cursor, Windsurf, VSCodium, Theia, code-server, Gitpod i innych zgodnych edytorów.

Bez planu Copilot

Modele dostawców mogą działać przez OmniRoute w Copilot Chat bez kierowania inferencji przez plan Copilot.

VS Code Marketplace (otwiera się w nowej karcie)Open VSX Registry (otwiera się w nowej karcie)OmniCopilot source (otwiera się w nowej karcie)

Typowe problemy

Dlaczego OmniRoute

Zobacz, który mechanizm rozwiązuje każdy z typowych problemów.

Without routing
With OmniRoute
Limit wygasa niewykorzystany
Śledź i wykorzystuj limit, który już masz
Rate limity zatrzymują cię w połowie zadania
4-poziomowy auto-fallback w milisekundach
Wyjście narzędzi pożera tokeny
Kompresja z 12 silnikami, 15–95% na kwalifikującej się treści
Drogie API sumują się
Routing zoptymalizowany kosztowo może wybrać najtańszy dostępny cel
Każde narzędzie wymaga własnej konfiguracji
Jeden endpoint i jeden panel
Dostawca jest niedostępny z twojej sieci
Zakresy proxy i kontrola odcisku klienta
Jeden martwy klucz psuje dostawcę
Bezpiecznik, cooldown i blokada izolują awarię
Zespół dzieli jedną subskrypcję
Pule kluczy i sprawiedliwe limity
Potrzebujesz lokalnej kontroli nad danymi routingu
Lokalne przechowywanie z szyfrowanymi poświadczeniami
Brak wglądu w koszty i stan
Analityka użycia, limitów, oszczędności i opóźnień

Migawka dokumentacji

Porównanie bram

Możliwości sprawdzone względem podlinkowanej dokumentacji projektów w dniu 2026-08-30.

MożliwośćOmniRoute (otwiera się w nowej karcie)9Router (otwiera się w nowej karcie)LiteLLM (otwiera się w nowej karcie)CLIProxyAPI (otwiera się w nowej karcie)
Dostawcy35240+100+8+ upstreams
Strategie routingu193-tierretry / priorityround-robin / fill-first
Wielopoziomowy fallback z UIYesYesManual policyMulti-account
Kompresja tokenów12 engines · 15–95%RTK / Headroom / CavemanNo built-in pipelineHTTP compression

Migawka publicznego README i oficjalnej dokumentacji; zweryfikuj podlinkowane źródła przed decyzją o zakupie lub wdrożeniu.

Wdrożenie

9 wspieranych sposobów uruchomienia OmniRoute.

Zainstaluj na laptopie, serwerze lub telefonie albo połącz się przez wspierany edytor i wtyczkę.

npm

Jedno polecenie na każdym wspieranym systemie desktopowym

npm install -g omnirouteOtwórz poradnik (otwiera się w nowej karcie)

Docker

Wieloarchitekturowy obraz AMD64 i ARM64

docker run … diegosouzapw/omnirouteOtwórz poradnik (otwiera się w nowej karcie)

Desktop

Natywne okno i zasobnik systemowy na Windows, macOS i Linux

npm run electron:buildOtwórz poradnik (otwiera się w nowej karcie)

ARM

Raspberry Pi, serwery ARM i Apple Silicon

native arm64

Android · Termux

Działa na Androidzie bez roota

pkg install nodejs && npx -y omnirouteOtwórz poradnik (otwiera się w nowej karcie)

PWA

Pełny ekran, tryb offline i instalacja z przeglądarki

Add to Home ScreenOtwórz poradnik (otwiera się w nowej karcie)

OpenCode plugin

Natywna wtyczka dostawcy OpenCode

@omniroute/opencode-providerOtwórz poradnik (otwiera się w nowej karcie)

VS Code

Modele OmniRoute w wyborze modeli Copilot Chat

Install OmniCopilotOtwórz poradnik (otwiera się w nowej karcie)

From source

Rozwijaj i współtwórz

npm install && npm run devOtwórz poradnik (otwiera się w nowej karcie)

Routing

Wybierz trasę auto.

Użyj gotowego trybu lub połącz 19 strategii wokół celu, który ma znaczenie.

Model · fallback włączonyautoBalanced default
Żądanie zgodne z OpenAI
curl http://localhost:20128/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Write a TypeScript retry helper."}]}'

Routing alias auto selected. Objective: Balanced default. Fallback enabled.

Wykorzystaj limit subskrypcji

Zużyj limit, który już masz, zanim sięgniesz po płatne API.

priority · fill-first

Rozłóż obciążenie

Rozdziel ruch między klucze i konta, aby zmniejszyć presję rate limitów.

weighted · round-robin · p2c · least-used · headroom

Najtańszy pierwszy

Kieruj do najtańszego dostępnego celu.

cost-optimized

Świadomy kontekstu

Trzymaj długie konteksty na modelach, które je mieszczą, a w razie potrzeby przekazuj dalej.

context-relay · context-optimized · cache-optimized

Losowy

Rozdzielaj kwalifikujący się ruch między cele.

random · strict-random

Adaptacyjna punktacja

Użyj punktacji z 15 czynnikami, ostatniego sprawnego celu i okien świadomych resetu.

reset-window · reset-aware · lkgp · auto · fusion · pipeline

Rozliczanie darmowych planów

Opublikowana pojemność darmowych planów, bez duplikatów.

455 wpisów katalogu jest deduplikowanych do 40 odnawialnych pul; do nagłówka trafiają tylko opublikowane dodatnie budżety.

1.51B

Rozliczanie z deduplikacją pul nie liczy współdzielonych limitów więcej niż raz. Dostawcy bez limitu pozostają widoczni, nie zawyżając sumy tokenów. Checked 2026-08-30.

Zobacz obliczenia (otwiera się w nowej karcie)
Odnawialni lub bezkluczowi dostawcy darmowi na zawsze56
  • Mistral1B/month
  • LLM7150M/month
  • Nara150M/month
  • Gemini CLI · forever60M/month
  • Kiro50 credits/month
  • Qoder · foreverFree catalog
  • LongCat · forever50M/day
  • Cerebras1M/day
  • NVIDIA NIM~40 RPM
  • Pollinations · foreverNo key
  • Cloudflare Workers AI · foreverDaily neurons
  • OpenCode Free · foreverNo-auth catalog

Kompresja kontekstu

Zmniejsz kwalifikujące się tokeny o 15–95%.

Wyjście narzędzi, powtarzany kontekst i rozdęte dane strukturalne można skompresować, zanim dotrą do modelu.

Kontekst zmniejszony o 15–95% na kwalifikujących się tokenach

Przed: The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total. Po: sum all list items where value > 0

  1. Session-Dedup
  2. CCR
  3. Lite
  4. RTK
  5. Responses Tool Output
  6. Headroom
  7. Relevance
  8. Caveman
  9. Aggressive
  10. LLMLingua-2
  11. Ultra
  12. OmniGlyph

Ta sama instrukcja. Mniej kontekstu do zapłacenia.

Przed69 tokens
The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total.
Po19 tokens
sum all list items where value > 0

Składalny potok

  1. Session-Dedup
    Usuń treść wysłaną już wcześniej w sesji.
  2. CCR
    Archiwizuj duże bloki i przywracaj je na żądanie.
  3. Lite
    Zastosuj ostrożne bezstratne porządkowanie.
  4. RTK
    Filtruj i deduplikuj wyjście poleceń i narzędzi.
  5. Responses Tool Output
    Kompaktuj ładunki narzędzi Responses API.
  6. Headroom
    Zastosuj odwracalną kompakcję danych tabelarycznych i strukturalnych.
  7. Relevance
    Zachowaj zdania najbardziej istotne dla ostatniego zapytania.
  8. Caveman
    Użyj kondensacji prozy opartej na regułach.
  9. Aggressive
    Zastosuj silniejsze skonfigurowane przycinanie.
  10. LLMLingua-2
    Użyj bezpiecznego dla kodu przycinania semantycznego w izolowanym workerze.
  11. Ultra
    Połącz etapy o dużych oszczędnościach z zabezpieczeniami zachowującymi treść.
  12. OmniGlyph
    Koduj zwięźle kwalifikujące się powtarzalne struktury.

Profile

Opublikowany zakres profilu~30%x-omniroute-compression: standard

Wybrano kompresję Standard. Opublikowany zakres ~30%.

Sterowanie i style odpowiedzi

  • Nazwane profile i aktywny selektor
  • Visual Compression Studio
  • Anthropic Context Editing
  • Adaptacyjny regulator budżetu kontekstu
  • Nagłówek \
  • dla pojedynczego żądania
  • Harness ewaluacji offline
  • Auto-wyzwalanie progiem tokenów
  • Terse prose
  • Less code (YAGNI)
  • Terse CJK 文言

Pierwszeństwo sterowania: nagłówek żądania → combo → profil → polityka adaptacyjna → domyślne.

Izolacja awarii

Izoluj awarie dostawcy, połączenia i modelu.

Zły klucz nie powinien wyłączać dostawcy. Ograniczony model nie powinien wyłączać połączenia.

model ⊂ połączenie ⊂ dostawca
Bezpiecznik dostawcyGdy dostawca jest niesprawny, routing combo omija go, aż półotwarta sonda się powiedzie.
Cooldown połączeniaSchładzaj jeden klucz lub konto, podczas gdy sąsiednie połączenia dalej obsługują ruch.
Blokada modeluBlokuj jeden model z rate limitem lub niedostępny, podczas gdy inne modele na połączeniu pozostają dostępne.

Kontrola sieci

Routing sieciowy i kontrola lokalnych danych.

Zakresy proxy sterują routingiem sieciowym, a lokalne przechowywanie trzyma dane operacyjne na twojej maszynie.

Trzy zakresy proxy

Kieruj globalnie, per dostawca lub per pojedyncze połączenie.

  • Globalny · per dostawca · per połączenie
  • Proxy SOCKS5 i HTTP(S)
  • Integracja z marketplace proxy

Kontrola odcisku TLS i klienta

Dopasuj wspieranych klientów dostawców aż do wybranych cech transportu.

  • Transport z obsługą JA3/JA4 przez wreq-js
  • Profile klientów specyficzne dla dostawcy
  • Kontrola wyjścia IPv4 i IPv6

Prywatne i lokalne

Klucze, użycie i historia zostają na hoście, który kontrolujesz.

  • SQLite na dysku z poświadczeniami szyfrowanymi AES-256-GCM
  • Konto OmniRoute nie jest wymagane
  • Hostuj samodzielnie na wybranej infrastrukturze
RosjaChinyIranKubaTurcja

Lokalny panel

Konfiguruj OmniRoute bez edytowania YAML.

Zarządzaj dostawcami, combo, analityką, stanem i kosztami pod localhost:20128/dashboard.

localhost:20128/dashboardDane przykładowe
352połączonych dostawców
90+dostępnych darmowych planów
198sprawnych w tym przykładzie
  • Claude Code · OAuth · aktywny
  • Cerebras · darmowy · aktywny
  • Groq · przykład cooldownu
  • NVIDIA NIM · darmowy · aktywny

Protokoły agentów

Udostępnij OmniRoute przez MCP i A2A.

OmniRoute może udostępnić bramę klientom MCP, sieciom A2A i wspieranym agentom kodującym w chmurze.

Serwer MCP

110 narzędzi w 33 zakresach przez transport stdio i HTTP.

110 narzędzi · 33 zakresów · stdio / HTTP

claude mcp add omniroute --type http --url http://localhost:20128/api/mcp/stream

Serwer A2A

6 umiejętności do inteligentnego routingu, limitów, odkrywania, analizy kosztów i raportowania stanu przez JSON-RPC 2.0.

6 umiejętności · JSON-RPC 2.0 · Agent Card

Agenci w chmurze

Połącz wspierane przepływy Codex, Cursor, Devin i Jules przez jedną warstwę orkiestracji.

Codex · Cursor · Devin · Jules

Dodatkowe usługi

Rozszerz bramę.

Usługi wbudowane

Uruchamiaj Bifrost, 9Router lub CLIProxy jako zarządzane sidecary albo pracuj w pełnym profilu klastra.

Twoja wiedza, w kontekście

Podłącz Notion i Obsidian jako źródła kontekstu oparte na MCP.

Wbudowane guardrails

Kontrola prompt injection, opcjonalna redakcja PII i znormalizowane filtry bezpieczeństwa bez uzależnienia od dostawcy.

Cele użycia

Śledź serie, osiągnięcia i oszczędności na żywo obok analityki operacyjnej.

Od społeczności

Jak OmniRoute jest używany i omawiany.

Zobacz, co deweloperzy budują, o co pytają i czym dzielą się na X, Reddicie i YouTube.

32 filmów z 32 kanałówZobacz wszystkie 32 filmów społeczności

Profile picture of Peng
Peng@pengsonal
Link to tweet (opens in a new tab)
one local endpoint for cursor / cline / claude code / copilot 😳 OmniRoute (24.7k★ on GitHub) runs a self-hosted router on your machine so you only need one base URL for all your coding agents. wha…

25 posts from X · 25 Reddit postsZobacz wszystkie posty

Tworzony otwarcie

Aktywność repozytorium

Zobacz gwiazdki, forki, kontrybutorów i wydania z zapisanej migawki GitHub.

  • 11,169forków
  • 832kontrybutorów
  • 281wydanych wersji
  • 8,942zmergowanych PR
  • 5,072zamkniętych zgłoszeń
  • 30,000testów automatycznych

Migawka z 2026-10-16

Discord

Czat, wsparcie i roadmapa

(otwiera się w nowej karcie)

Telegram

Nowości i ogłoszenia

(otwiera się w nowej karcie)

WhatsApp 🌍

Społeczność globalna

(otwiera się w nowej karcie)

WhatsApp 🇧🇷

Comunidade Brasil

(otwiera się w nowej karcie)
Poznaj kontrybutorów (otwiera się w nowej karcie)

OmniRoute od Cheaper Inference

Wybierz, jak uruchamiasz OmniRoute.

Hostuj OmniRoute samodzielnie lub zacznij z Cheaper Inference, hostowaną bramą z rankingiem kosztów.

Wypróbuj Cheaper Inference Hostuj OmniRoute samodzielnie (otwiera się w nowej karcie)