OmniRouteby Cheaper Inference
OmniRoute се присъедини към Cheaper InferenceРазгледайте Cheaper Inference

#1 AI рутер с отворен код

Маршрутизирайте между 352 доставчици през една OpenAI-съвместима крайна точка, с автоматичен fallback.

Опитайте Cheaper InferenceХостване на OmniRoute (отваря се в нов таб)
OpenAI-съвместим Безплатен и с отворен код77.5k звезди (отваря се в нов таб)

OmniRoute × Cheaper Inference

Съчетайте автоматичния fallback и инструментите за разработчици на OmniRoute с подредения по цена пазар на Cheaper Inference. Всяка допустима заявка започва с най-евтиния наличен маршрут към доставчик.

97 моделаДиректна листова цена спрямо цената в Cheaper Inference
Директни листови цени спрямо цените в Cheaper Inference по модел
МоделЦена на входаЦена на изходаСпестяванияКонтекстДетайли
gpt-5.6-lunaOpenAI · text$0.20$0.08/ 1M tokens$1.20$0.48/ 1M tokens60% отстъпка1.1M
gpt-5.6-terraOpenAI · text$2.00$0.80/ 1M tokens$12.00$4.80/ 1M tokens60% отстъпка1.1M
gpt-oss-120bOpenAI · text$0.10$0.040483/ 1M tokens$0.50$0.202417/ 1M tokens59.52% отстъпка128K
deepseek-v4.1-flashDeepSeek · text$0.15$0.075/ 1M tokens$0.60$0.30/ 1M tokens50% отстъпка1.0M
gpt-5.6-solOpenAI · text$4.00$2.00/ 1M tokens$20.00$10.00/ 1M tokens50% отстъпка1.1M
glm-4.5Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45% отстъпка128K
glm-4.6Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45% отстъпка198K
glm-4.7Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45% отстъпка128K
Показани са 8 от 97 модела
Директна листова цена → цена в Cheaper Inference · Разгледайте всички модели · Вижте каталога на живо (отваря се в нов таб)Цените са проверени на 14.10.2026 г., 14:00 ч. UTC. Тарифите могат да се променят при промяна на цените нагоре по веригата или на наличните маршрути.

Основни контроли

Една крайна точка за всички ваши конфигурирани доставчици.

Core control

Заявките не спират

Когато дадена цел е недостъпна или без квота, OmniRoute избира следващата работеща цел.

Core control

Компресирайте допустимия контекст

Конвейер с 12 енджина намалява допустимия контекст с 15–95%. Документираният пример с интензивна употреба на инструменти го намали с ~89%.

Core control

Старт за $0

90+ безплатни плана и 56 доставчици с периодично или безключово безплатно ниво завинаги. Без кредитна карта за бързия старт без ключ.

Core control

35 поддържани интеграции

Конфигурирайте Claude Code, Codex, Cursor, Cline, Copilot, Antigravity и други поддържани клиенти през една крайна точка.

Core control

Една крайна точка

Приема заявки за OpenAI, Claude, Gemini и Responses API на /v1.

Core control

Оперативни контроли

Circuit breakers, шифрирани креденшъли, MCP, A2A, памет, guardrails и evals идват със self-hosted gateway-а.

Каталогът

Всички зад една крайна точка.

Каталог, обхващащ чат, медия, търсене, локални среди, облачни агенти и системни интеграции.

352 доставчици

Всеки от тях, зад една локална крайна точка.

Крайната точка, към която сочи всеки клиентhttp://localhost:20128/v1

14 Search12 Audio-only2 Upstream proxy3 Cloud agent1 System
OpenAIAnthropicGoogleDeepSeekxAIZ.aiMoonshotMiniMaxAlibabaMetaBytedanceAion Labs
25OAuthClaude Code, Codex, Cursor, GitHub Copilot, Kimi Code…
233API ключOpenAI, Anthropic, Groq, NVIDIA, Cerebras, Mistral…
35Уеб бисквиткаChatGPT Web, Claude Web, Gemini Web, Grok Web…
14ЛокалниOllama, LM Studio, vLLM, llama.cpp…
13Без удостоверяванеOpenCode Free, Felo, Pollinations и други маршрути без ключ…
Разгледайте справочника на доставчиците (opens in a new tab)

Бърз старт

Инсталирай, стартирай, свържи.

Инсталирайте пакета, стартирайте gateway-а и насочете всеки OpenAI-съвместим клиент към порт 20128.

Каталог на доставчиците
352
Стратегии за маршрутизиране
19
Локална крайна точка
:20128/v1

Step 1: Инсталиране

Инсталирайте npm пакета omniroute глобално.

omniroute: install
$ npm install -g omnirouteadded 1 package

Step 2: Стартиране

Стартирайте API и таблото заедно на порт 20128.

omniroute: run
$ omniroute▸ dashboard ✓ http://localhost:20128/dashboard▸ api ...... ✓ serving on :20128

Step 3: Свържете инструмента си

Използвайте http://localhost:20128/v1; автоматичният маршрут без ключ работи при чиста инсталация.

omniroute: connect
$ curl localhost:20128/v1/models✓ models listed

Контроли на gateway-а

Основните контроли на gateway-а в един процес.

Конфигурирайте fallback, квоти, компресия, памет, MCP и A2A от локалното табло.

Gateway control

Smart Combos

Задайте модел auto или изградете собствено комбо с 19 стратегии и многостепенен fallback.

Използвайте готов режим или комбинирайте 19 стратегии около целта, която е важна за вас.

Gateway control

Памет

Постоянна разговорна памет с FTS5 търсене по ключови думи и векторно извличане чрез Qdrant.

Gateway control

Устойчивост на 3 нива

Breaker на доставчика, cooldown на връзката и блокиране на модела изолират отказите в най-малкия полезен обхват.

Gateway control

Безплатна квота

Отчитане без дублиране в пула за 90+ безплатни плана.

Публикуван безплатен капацитет, без дублиране.

Gateway control

Компресия

12 комбинируеми енджина за изход от инструменти, контекст и стил на отговора.

Намалете допустимите токени с 15–95%.

Gateway control

MCP сървър

Вграден сървър, който предоставя 110 gateway инструмента в 33 обхвата.

110 инструмента · 33 обхвата · stdio / HTTP

Gateway control

A2A протокол

JSON-RPC агентен сървър с 6 умения.

6 умения · JSON-RPC 2.0 · Agent Card

Gateway control

Семантичен кеш

Повторна заявка може да се върне от кеша, а хедърът на отговора показва какво е спестено.

X-OmniRoute-Cache: HIT

Съвместимост с клиенти

Запазете сегашните си инструменти за код.

Насочете OpenAI-съвместим CLI или редактор към един локален базов URL; OmniRoute поема доставчиците зад него.

Claude Code
Codex CLI
Cursor
Cline
GitHub Copilot
Gemini CLI
OpenCode
Kilo Code
Factory Droid
Continue
Roo Code
Antigravity
Aider
OpenClaw
Goose
Grok Build
Windsurf
Devin CLI

http://localhost:20128/v1

request.sh
curl http://localhost:20128/v1/chat/completions \
  -H "Authorization: Bearer $OMNIROUTE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Hello"}]}'

OmniCopilot

Използвайте моделите на OmniRoute в Copilot Chat.

OmniCopilot добавя моделите на OmniRoute в съществуващия избор на модели.

Официален Marketplace

Работи във VS Code stable и Insiders. Инсталирайте от Marketplace или изгледа Extensions.

Open VSX Registry

За Cursor, Windsurf, VSCodium, Theia, code-server, Gitpod и други съвместими редактори.

Без нужда от Copilot план

Моделите на доставчиците могат да работят през OmniRoute в Copilot Chat, без инференсът да минава през Copilot план.

VS Code Marketplace (отваря се в нов таб)Open VSX Registry (отваря се в нов таб)OmniCopilot source (отваря се в нов таб)

Често срещани проблеми

Защо OmniRoute

Вижте кой контрол решава всеки често срещан проблем.

Without routing
With OmniRoute
Квотата изтича неизползвана
Следете и изчерпвайте лимита, който вече имате
Rate limits ви спират по средата на задачата
Автоматичен fallback на 4 нива за милисекунди
Изходът от инструменти гори токени
Компресия с 12 енджина, 15–95% за допустимо съдържание
Скъпите API се натрупват
Маршрутизирането по цена може да избере най-евтината допустима цел
Всеки инструмент иска своя настройка
Една крайна точка и едно табло
Доставчик е недостъпен от вашата мрежа
Прокси обхвати и контрол на клиентския отпечатък
Един мъртъв ключ чупи доставчика
Breaker, cooldown и lockout изолират отказа
Екип споделя един абонамент
Пулове от ключове и справедливи квоти
Нужен ви е локален контрол над данните за маршрутизиране
Local-first съхранение с шифрирани креденшъли
Няма видимост за разходи и състояние
Анализи за употреба, квоти, спестявания и латентност

Снимка на документацията

Как се сравняват gateway-ите

Възможностите са проверени спрямо свързаната документация на проектите на 2026-08-30.

ВъзможностOmniRoute (отваря се в нов таб)9Router (отваря се в нов таб)LiteLLM (отваря се в нов таб)CLIProxyAPI (отваря се в нов таб)
Доставчици35240+100+8+ upstreams
Стратегии за маршрутизиране193-tierretry / priorityround-robin / fill-first
Многостепенен fallback с UIYesYesManual policyMulti-account
Компресия на токени12 engines · 15–95%RTK / Headroom / CavemanNo built-in pipelineHTTP compression

Снимка на публичния README и официалната документация; проверете свързаните източници, преди да вземете решение за покупка или разгръщане.

Разгръщане

9 поддържани начина да стартирате OmniRoute.

Инсталирайте го на лаптоп, сървър или телефон, или се свържете през поддържан редактор и плъгин.

npm

Една команда на всяка поддържана десктоп ОС

npm install -g omnirouteОтвори ръководството (отваря се в нов таб)

Docker

Мултиархитектурен образ за AMD64 и ARM64

docker run … diegosouzapw/omnirouteОтвори ръководството (отваря се в нов таб)

Desktop

Нативен прозорец и системен трей на Windows, macOS и Linux

npm run electron:buildОтвори ръководството (отваря се в нов таб)

ARM

Raspberry Pi, ARM сървъри и Apple Silicon

native arm64

Android · Termux

Работи на Android без root

pkg install nodejs && npx -y omnirouteОтвори ръководството (отваря се в нов таб)

PWA

На цял екран, готово за офлайн и инсталируемо от браузър

Add to Home ScreenОтвори ръководството (отваря се в нов таб)

OpenCode plugin

Нативен плъгин за доставчик в OpenCode

@omniroute/opencode-providerОтвори ръководството (отваря се в нов таб)

VS Code

Моделите на OmniRoute в избора на Copilot Chat

Install OmniCopilotОтвори ръководството (отваря се в нов таб)

From source

Ровете в кода и допринасяйте

npm install && npm run devОтвори ръководството (отваря се в нов таб)

Маршрутизиране

Изберете автоматичен маршрут.

Използвайте готов режим или комбинирайте 19 стратегии около целта, която е важна за вас.

Модел · fallback е включенautoBalanced default
OpenAI-съвместима заявка
curl http://localhost:20128/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Write a TypeScript retry helper."}]}'

Routing alias auto selected. Objective: Balanced default. Fallback enabled.

Изчерпване на абонаментната квота

Използвайте квотата, която вече имате, преди да докоснете платените API.

priority · fill-first

Разпределяне на товара

Балансирайте трафика между ключове и акаунти, за да намалите натиска от rate limits.

weighted · round-robin · p2c · least-used · headroom

Най-евтиното първо

Маршрутизирайте към най-евтината допустима цел.

cost-optimized

Според контекста

Дръжте дългите контексти на модели, в които се вписват, и препращайте при нужда.

context-relay · context-optimized · cache-optimized

Случайно

Разпределяйте допустимия трафик между целите.

random · strict-random

Адаптивно оценяване

Използвайте оценяване по 15 фактора, последна работеща цел и прозорци, съобразени с нулирането.

reset-window · reset-aware · lkgp · auto · fusion · pipeline

Отчитане на безплатните планове

Публикуван безплатен капацитет, без дублиране.

455 записа в каталога се свеждат до 40 периодични пула; само публикуваните положителни бюджети влизат в общата цифра.

1.51B

Отчитането без дублиране в пула пречи споделените квоти да се броят повече от веднъж. Доставчиците без лимит остават видими, без да надуват общия брой токени. Checked 2026-08-30.

Вижте изчислението (отваря се в нов таб)
Доставчици с периодично или безключово безплатно ниво завинаги56
  • Mistral1B/month
  • LLM7150M/month
  • Nara150M/month
  • Gemini CLI · forever60M/month
  • Kiro50 credits/month
  • Qoder · foreverFree catalog
  • LongCat · forever50M/day
  • Cerebras1M/day
  • NVIDIA NIM~40 RPM
  • Pollinations · foreverNo key
  • Cloudflare Workers AI · foreverDaily neurons
  • OpenCode Free · foreverNo-auth catalog

Компресия на контекста

Намалете допустимите токени с 15–95%.

Изходът от инструменти, повтарящият се контекст и раздутите структурирани данни могат да се компресират, преди да стигнат до модела.

Контекстът е намален с 15–95% за допустимите токени

Преди: The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total. След: sum all list items where value > 0

  1. Session-Dedup
  2. CCR
  3. Lite
  4. RTK
  5. Responses Tool Output
  6. Headroom
  7. Relevance
  8. Caveman
  9. Aggressive
  10. LLMLingua-2
  11. Ultra
  12. OmniGlyph

Същата инструкция. По-малко контекст за плащане.

Преди69 tokens
The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total.
След19 tokens
sum all list items where value > 0

Комбинируем конвейер

  1. Session-Dedup
    Премахва съдържание, вече изпратено по-рано в сесията.
  2. CCR
    Архивира големи блокове и ги възстановява при поискване.
  3. Lite
    Прилага консервативно почистване без загуби.
  4. RTK
    Филтрира и дедуплицира изхода от команди и инструменти.
  5. Responses Tool Output
    Компактира tool payload-ите на Responses API.
  6. Headroom
    Прилага обратимо компактиране на таблични и структурирани данни.
  7. Relevance
    Запазва изреченията, най-релевантни за последната заявка.
  8. Caveman
    Използва кондензиране на прозата по правила.
  9. Aggressive
    Прилага по-силно конфигурирано подрязване.
  10. LLMLingua-2
    Използва безопасно за код семантично подрязване в изолиран worker.
  11. Ultra
    Комбинира етапи с високи спестявания и защити за запазване.
  12. OmniGlyph
    Кодира компактно допустимите повтарящи се структури.

Профили

Публикуван диапазон на профила~30%x-omniroute-compression: standard

Избрана е компресия Standard. Публикуван диапазон ~30%.

Контроли и стилове на изхода

  • Наименувани профили и активен селектор
  • Визуално Compression Studio
  • Anthropic Context Editing
  • Адаптивен регулатор на бюджета за контекст
  • Хедър \
  • за всяка заявка
  • Офлайн eval harness
  • Автоматично задействане при праг на токени
  • Terse prose
  • Less code (YAGNI)
  • Terse CJK 文言

Приоритет на контрола: хедър на заявката → комбо → профил → адаптивна политика → по подразбиране.

Изолация на откази

Изолирайте откази на доставчик, връзка и модел.

Лош ключ не трябва да спира доставчик. Ограничен модел не трябва да спира връзка.

модел ⊂ връзка ⊂ доставчик
Circuit breaker на доставчикаКогато доставчик не е здрав, комбо маршрутизирането го пропуска, докато полуотворена проба не успее.
Cooldown на връзкатаОхладете един ключ или акаунт, докато съседните връзки продължават да обслужват.
Блокиране на моделБлокирайте един модел с rate limit или недостъпен, докато другите модели на връзката остават налични.

Мрежови контроли

Мрежово маршрутизиране и контрол над локалните данни.

Прокси обхватите управляват мрежовото маршрутизиране, а local-first съхранението пази оперативните данни на вашата машина.

Три прокси обхвата

Маршрутизирайте глобално, по доставчик или по отделна връзка.

  • Глобално · по доставчик · по връзка
  • SOCKS5 и HTTP(S) прокси
  • Интеграция с прокси marketplace

Контрол на TLS и клиентския отпечатък

Съответствие с поддържаните клиенти на доставчиците до избрани транспортни характеристики.

  • Транспорт с JA3/JA4 поддръжка чрез wreq-js
  • Клиентски профили за всеки доставчик
  • Контрол на изходящия IPv4 и IPv6 трафик

Поверително и local-first

Ключове, употреба и история остават на хоста, който контролирате.

  • SQLite на диска с AES-256-GCM шифрирани креденшъли
  • Не е нужен OmniRoute акаунт
  • Self-hosting на инфраструктура по ваш избор
РусияКитайИранКубаТурция

Локално табло

Конфигурирайте OmniRoute без да редактирате YAML.

Управлявайте доставчици, комба, анализи, състояние и разходи на localhost:20128/dashboard.

localhost:20128/dashboardПримерни данни
352свързани доставчици
90+налични безплатни планове
198здрави в този пример
  • Claude Code · OAuth · активен
  • Cerebras · безплатен · активен
  • Groq · примерен cooldown
  • NVIDIA NIM · безплатен · активен

Агентни протоколи

Изложете OmniRoute през MCP и A2A.

OmniRoute може да изложи gateway-а си към MCP клиенти, A2A мрежи и поддържани облачни агенти за код.

MCP сървър

110 инструмента в 33 обхвата през stdio и HTTP транспорт.

110 инструмента · 33 обхвата · stdio / HTTP

claude mcp add omniroute --type http --url http://localhost:20128/api/mcp/stream

A2A сървър

6 умения за умно маршрутизиране, квоти, откриване, анализ на разходи и отчети за състояние през JSON-RPC 2.0.

6 умения · JSON-RPC 2.0 · Agent Card

Облачни агенти

Свържете поддържани работни потоци на Codex, Cursor, Devin и Jules през една оркестрационна повърхност.

Codex · Cursor · Devin · Jules

Допълнителни услуги

Разширете gateway-а.

Вградени услуги

Стартирайте Bifrost, 9Router или CLIProxy като управлявани sidecar-и, или работете с пълен клъстерен профил.

Вашите знания, в контекст

Свържете Notion и Obsidian като източници на контекст чрез MCP.

Вградени guardrails

Проверки за prompt injection, редакция на лични данни по избор и нормализирани филтри за безопасност без обвързване с доставчик.

Цели за употреба

Следете серии, постижения и спестявания на живо редом с оперативните анализи.

От общността

Как се използва и обсъжда OmniRoute.

Вижте какво разработчиците изграждат, питат и споделят в X, Reddit и YouTube.

32 видеа от 32 каналаВижте всички 32 видеа от общността

Profile picture of Peng
Peng@pengsonal
Link to tweet (opens in a new tab)
one local endpoint for cursor / cline / claude code / copilot 😳 OmniRoute (24.7k★ on GitHub) runs a self-hosted router on your machine so you only need one base URL for all your coding agents. wha…

25 posts from X · 25 Reddit postsВижте всички публикации

Изграден на открито

Активност в репозитория

Вижте звезди, форкове, сътрудници и издания от записаната снимка на GitHub.

  • 11,226форка
  • 841сътрудници
  • 281издадени версии
  • 9,060слети PR-а
  • 5,084затворени issues
  • 30,000автоматизирани теста

Снимка от 2026-10-17

Discord

Чат, поддръжка и пътна карта

(отваря се в нов таб)

Telegram

Новини и съобщения

(отваря се в нов таб)

WhatsApp 🌍

Глобална общност

(отваря се в нов таб)

WhatsApp 🇧🇷

Comunidade Brasil

(отваря се в нов таб)
Запознайте се със сътрудниците (отваря се в нов таб)

OmniRoute от Cheaper Inference

Изберете как да стартирате OmniRoute.

Хоствайте OmniRoute сами или започнете с Cheaper Inference за хостван gateway, подреден по цена.

Опитайте Cheaper Inference Хостване на OmniRoute (отваря се в нов таб)