OmniRouteby Cheaper Inference
OmniRoute присоединился к Cheaper InferenceУзнать о Cheaper Inference

#1 AI-роутер с открытым кодом

Маршрутизируйте запросы к 352 провайдерам через один OpenAI-совместимый эндпоинт с автоматическим fallback.

Попробовать Cheaper InferenceРазвернуть OmniRoute у себя (откроется в новой вкладке)
OpenAI-совместимый Бесплатный и open source77.2k звёзд (откроется в новой вкладке)

OmniRoute × Cheaper Inference

Объедините автоматический fallback и инструменты разработчика OmniRoute с маркетплейсом Cheaper Inference, ранжированным по стоимости. Каждый подходящий запрос начинается с самого дешёвого доступного маршрута провайдера.

97 моделейПрямая прейскурантная цена в сравнении с ценой Cheaper Inference
Прямые прейскурантные цены в сравнении с ценами Cheaper Inference по моделям
МодельЦена входаЦена выводаЭкономияКонтекстДетали
gpt-5.6-lunaOpenAI · text$0.20$0.08/ 1M tokens$1.20$0.48/ 1M tokensскидка 60%1.1M
gpt-5.6-terraOpenAI · text$2.00$0.80/ 1M tokens$12.00$4.80/ 1M tokensскидка 60%1.1M
gpt-oss-120bOpenAI · text$0.10$0.040483/ 1M tokens$0.50$0.202417/ 1M tokensскидка 59.52%128K
deepseek-v4.1-flashDeepSeek · text$0.15$0.075/ 1M tokens$0.60$0.30/ 1M tokensскидка 50%1.0M
gpt-5.6-solOpenAI · text$4.00$2.00/ 1M tokens$20.00$10.00/ 1M tokensскидка 50%1.1M
glm-4.5Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokensскидка 45%128K
glm-4.6Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokensскидка 45%198K
glm-4.7Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokensскидка 45%128K
Показано 8 из 97 моделей
Прямая прейскурантная цена → цена Cheaper Inference · Смотреть все модели · Открыть актуальный каталог (откроется в новой вкладке)Цены проверены 14 окт. 2026 г., 14:00 UTC. Тарифы могут меняться при изменении цен upstream или доступных маршрутов.

Основные механизмы

Один эндпоинт для всех настроенных провайдеров.

Core control

Запросы не останавливаются

Если цель недоступна или исчерпала квоту, OmniRoute выбирает следующую работоспособную цель.

Core control

Сжатие подходящего контекста

Конвейер из 12 движков сокращает подходящий контекст на 15–95%. В задокументированном примере с большим объёмом вывода инструментов сокращение составило ~89%.

Core control

Старт за $0

90+ бесплатных тарифов и 56 постоянно бесплатных провайдеров с возобновляемой квотой или без ключа. Для быстрого старта без ключа банковская карта не нужна.

Core control

35 поддерживаемых интеграций

Настройте Claude Code, Codex, Cursor, Cline, Copilot, Antigravity и другие поддерживаемые клиенты через один эндпоинт.

Core control

Один эндпоинт

Принимает запросы OpenAI, Claude, Gemini и Responses API на /v1.

Core control

Операционный контроль

Circuit breaker, шифрование учётных данных, MCP, A2A, память, guardrails и evals входят в self-hosted шлюз.

Каталог

Все за одним эндпоинтом.

Каталог охватывает чат, медиа, поиск, локальные рантаймы, облачных агентов и системные интеграции.

352 провайдеров

Все они за одним локальным эндпоинтом.

Единый эндпоинт, на который смотрят все клиентыhttp://localhost:20128/v1

14 Search12 Audio-only2 Upstream proxy3 Cloud agent1 System
OpenAIAnthropicGoogleDeepSeekxAIZ.aiMoonshotMiniMaxAlibabaMetaBytedanceAion Labs
25OAuthClaude Code, Codex, Cursor, GitHub Copilot, Kimi Code…
233API-ключOpenAI, Anthropic, Groq, NVIDIA, Cerebras, Mistral…
35Веб-cookieChatGPT Web, Claude Web, Gemini Web, Grok Web…
14ЛокальныеOllama, LM Studio, vLLM, llama.cpp…
13Без аутентификацииOpenCode Free, Felo, Pollinations и другие маршруты без ключа…
Открыть справочник провайдеров (opens in a new tab)

Быстрый старт

Установить, запустить, подключить.

Установите пакет, запустите шлюз и направьте любой OpenAI-совместимый клиент на порт 20128.

Каталог провайдеров
352
Стратегии маршрутизации
19
Локальный эндпоинт
:20128/v1

Step 1: Установка

Установите npm-пакет omniroute глобально.

omniroute: install
$ npm install -g omnirouteadded 1 package

Step 2: Запуск

Запустите API и панель управления вместе на порту 20128.

omniroute: run
$ omniroute▸ dashboard ✓ http://localhost:20128/dashboard▸ api ...... ✓ serving on :20128

Step 3: Подключите инструмент

Используйте http://localhost:20128/v1; маршрут auto без ключа работает сразу после установки.

omniroute: connect
$ curl localhost:20128/v1/models✓ models listed

Управление шлюзом

Ключевые механизмы шлюза в одном процессе.

Настраивайте fallback, квоты, сжатие, память, MCP и A2A из локальной панели управления.

Gateway control

Умные комбо

Укажите модель auto или соберите своё комбо из 19 стратегий с многоуровневым fallback.

Используйте готовый режим или комбинируйте 19 стратегий вокруг важной для вас цели.

Gateway control

Память

Постоянная память диалогов с поиском по ключевым словам FTS5 и векторным поиском Qdrant.

Gateway control

Отказоустойчивость в 3 слоя

Breaker провайдера, cooldown подключения и блокировка модели изолируют сбои на минимально необходимом уровне.

Gateway control

Бесплатная квота

Учёт с дедупликацией пулов по 90+ бесплатным тарифам.

Опубликованный объём бесплатных тарифов, без дублей.

Gateway control

Сжатие

12 комбинируемых движков для вывода инструментов, контекста и стиля ответов.

Сократите подходящие токены на 15–95%.

Gateway control

MCP-сервер

Встроенный сервер с 110 инструментами шлюза в 33 областях.

110 инструментов · 33 областей · stdio / HTTP

Gateway control

Протокол A2A

JSON-RPC сервер агента с 6 навыками.

6 навыков · JSON-RPC 2.0 · Agent Card

Gateway control

Семантический кеш

Повторный запрос может вернуться из кеша, а заголовок ответа сообщает, сколько это сэкономило.

X-OmniRoute-Cache: HIT

Совместимость клиентов

Оставьте привычные инструменты для кода.

Направьте OpenAI-совместимый CLI или редактор на один локальный base URL; OmniRoute сам разберётся с провайдерами за ним.

Claude Code
Codex CLI
Cursor
Cline
GitHub Copilot
Gemini CLI
OpenCode
Kilo Code
Factory Droid
Continue
Roo Code
Antigravity
Aider
OpenClaw
Goose
Grok Build
Windsurf
Devin CLI

http://localhost:20128/v1

request.sh
curl http://localhost:20128/v1/chat/completions \
  -H "Authorization: Bearer $OMNIROUTE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Hello"}]}'

OmniCopilot

Модели OmniRoute в Copilot Chat.

OmniCopilot добавляет модели OmniRoute в стандартный выбор моделей.

Официальный Marketplace

Работает в VS Code stable и Insiders. Установите из Marketplace или из панели расширений.

Open VSX Registry

Для Cursor, Windsurf, VSCodium, Theia, code-server, Gitpod и других совместимых редакторов.

Подписка Copilot не нужна

Модели провайдеров могут работать через OmniRoute в Copilot Chat без прогона инференса через подписку Copilot.

VS Code Marketplace (откроется в новой вкладке)Open VSX Registry (откроется в новой вкладке)OmniCopilot source (откроется в новой вкладке)

Типичные проблемы

Почему OmniRoute

Какой механизм решает каждую типичную проблему.

Without routing
With OmniRoute
Квота сгорает неиспользованной
Отслеживайте и расходуйте уже доступный лимит
Rate limit останавливает вас посреди задачи
Авто-fallback в 4 уровня за миллисекунды
Вывод инструментов сжигает токены
Сжатие из 12 движков, 15–95% на подходящем контенте
Дорогие API накапливают расходы
Маршрутизация по стоимости выбирает самую дешёвую подходящую цель
Каждый инструмент настраивается отдельно
Один эндпоинт и одна панель управления
Провайдер недоступен из вашей сети
Области прокси и управление отпечатком клиента
Один мёртвый ключ ломает провайдера
Breaker, cooldown и блокировка изолируют сбой
Команда делит одну подписку
Пулы ключей и справедливые квоты
Нужен локальный контроль над данными маршрутизации
Локальное хранение с шифрованием учётных данных
Нет прозрачности расходов и состояния
Аналитика использования, квот, экономии и задержек

Срез документации

Сравнение шлюзов

Возможности сверены с документацией проектов по ссылкам 2026-08-30.

ВозможностьOmniRoute (откроется в новой вкладке)9Router (откроется в новой вкладке)LiteLLM (откроется в новой вкладке)CLIProxyAPI (откроется в новой вкладке)
Провайдеры35240+100+8+ upstreams
Стратегии маршрутизации193-tierretry / priorityround-robin / fill-first
Многоуровневый fallback с UIYesYesManual policyMulti-account
Сжатие токенов12 engines · 15–95%RTK / Headroom / CavemanNo built-in pipelineHTTP compression

Снимок публичного README и официальной документации; сверьтесь с источниками по ссылкам, прежде чем принимать решение о покупке или развёртывании.

Развёртывание

9 поддерживаемых способов запустить OmniRoute.

Установите на ноутбук, сервер или телефон либо подключитесь через поддерживаемый редактор и плагин.

npm

Одна команда на любой поддерживаемой десктопной ОС

npm install -g omnirouteОткрыть руководство (откроется в новой вкладке)

Docker

Мультиархитектурный образ AMD64 и ARM64

docker run … diegosouzapw/omnirouteОткрыть руководство (откроется в новой вкладке)

Desktop

Нативное окно и системный трей на Windows, macOS и Linux

npm run electron:buildОткрыть руководство (откроется в новой вкладке)

ARM

Raspberry Pi, ARM-серверы и Apple Silicon

native arm64

Android · Termux

Работает на Android без root

pkg install nodejs && npx -y omnirouteОткрыть руководство (откроется в новой вкладке)

PWA

Полноэкранный режим, работа офлайн и установка из браузера

Add to Home ScreenОткрыть руководство (откроется в новой вкладке)

OpenCode plugin

Нативный плагин провайдера для OpenCode

@omniroute/opencode-providerОткрыть руководство (откроется в новой вкладке)

VS Code

Модели OmniRoute в выборе моделей Copilot Chat

Install OmniCopilotОткрыть руководство (откроется в новой вкладке)

From source

Дорабатывайте и вносите вклад

npm install && npm run devОткрыть руководство (откроется в новой вкладке)

Маршрутизация

Выберите режим auto.

Используйте готовый режим или комбинируйте 19 стратегий вокруг важной для вас цели.

Модель · fallback включёнautoBalanced default
OpenAI-совместимый запрос
curl http://localhost:20128/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Write a TypeScript retry helper."}]}'

Routing alias auto selected. Objective: Balanced default. Fallback enabled.

Расходовать квоту подписки

Используйте уже доступную квоту, прежде чем переходить к платным API.

priority · fill-first

Распределить нагрузку

Балансируйте трафик между ключами и аккаунтами, чтобы снизить давление rate limit.

weighted · round-robin · p2c · least-used · headroom

Сначала дешёвое

Направлять на самую дешёвую подходящую цель.

cost-optimized

С учётом контекста

Держите длинные контексты на подходящих моделях и переключайтесь при необходимости.

context-relay · context-optimized · cache-optimized

Случайный выбор

Распределять подходящий трафик между целями.

random · strict-random

Адаптивная оценка

Оценка по 15 факторам, последняя рабочая цель и окна с учётом сброса лимитов.

reset-window · reset-aware · lkgp · auto · fusion · pipeline

Учёт бесплатных тарифов

Опубликованный объём бесплатных тарифов, без дублей.

455 записей каталога дедуплицированы в 40 возобновляемых пулов; в итоговую цифру попадают только опубликованные положительные бюджеты.

1.51B

Учёт с дедупликацией пулов не позволяет посчитать общие квоты дважды. Провайдеры без лимита остаются видимыми, не завышая общее число токенов. Checked 2026-08-30.

Посмотреть расчёт (откроется в новой вкладке)
Постоянно бесплатные провайдеры с возобновляемой квотой или без ключа56
  • Mistral1B/month
  • LLM7150M/month
  • Nara150M/month
  • Gemini CLI · forever60M/month
  • Kiro50 credits/month
  • Qoder · foreverFree catalog
  • LongCat · forever50M/day
  • Cerebras1M/day
  • NVIDIA NIM~40 RPM
  • Pollinations · foreverNo key
  • Cloudflare Workers AI · foreverDaily neurons
  • OpenCode Free · foreverNo-auth catalog

Сжатие контекста

Сократите подходящие токены на 15–95%.

Вывод инструментов, повторяющийся контекст и раздутые структурированные данные можно сжать до того, как они попадут в модель.

Контекст сокращён на 15–95% по подходящим токенам

До: The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total. После: sum all list items where value > 0

  1. Session-Dedup
  2. CCR
  3. Lite
  4. RTK
  5. Responses Tool Output
  6. Headroom
  7. Relevance
  8. Caveman
  9. Aggressive
  10. LLMLingua-2
  11. Ultra
  12. OmniGlyph

Та же инструкция. Меньше контекста, за который платить.

До69 tokens
The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total.
После19 tokens
sum all list items where value > 0

Комбинируемый конвейер

  1. Session-Dedup
    Убирает контент, уже отправленный ранее в сессии.
  2. CCR
    Архивирует крупные блоки и восстанавливает их по запросу.
  3. Lite
    Консервативная очистка без потерь.
  4. RTK
    Фильтрует и дедуплицирует вывод команд и инструментов.
  5. Responses Tool Output
    Уплотняет tool-payload в Responses API.
  6. Headroom
    Обратимое уплотнение табличных и структурированных данных.
  7. Relevance
    Оставляет предложения, наиболее релевантные последнему запросу.
  8. Caveman
    Сжатие прозы по правилам.
  9. Aggressive
    Более жёсткая настраиваемая обрезка.
  10. LLMLingua-2
    Безопасная для кода семантическая обрезка в изолированном воркере.
  11. Ultra
    Сочетает стадии с высокой экономией и защиту от потерь.
  12. OmniGlyph
    Компактно кодирует подходящие повторяющиеся структуры.

Профили

Опубликованный диапазон профиля~30%x-omniroute-compression: standard

Выбрано сжатие Standard. Опубликованный диапазон ~30%.

Настройки и стили вывода

  • Именованные профили и активный селектор
  • Визуальная Compression Studio
  • Anthropic Context Editing
  • Адаптивный регулятор бюджета контекста
  • Заголовок \
  • на запрос
  • Офлайн-стенд для evals
  • Автозапуск по порогу токенов
  • Terse prose
  • Less code (YAGNI)
  • Terse CJK 文言

Приоритет настроек: заголовок запроса → комбо → профиль → адаптивная политика → по умолчанию.

Изоляция сбоев

Изоляция сбоев провайдера, подключения и модели.

Плохой ключ не должен убивать провайдера. Ограниченная модель не должна убивать подключение.

модель ⊂ подключение ⊂ провайдер
Circuit breaker провайдераПока провайдер нездоров, комбо-маршрутизация пропускает его, пока полуоткрытая проверка не пройдёт успешно.
Cooldown подключенияОдин ключ или аккаунт уходит в cooldown, а соседние подключения продолжают работать.
Блокировка моделиБлокирует одну модель с rate limit или недоступную, пока остальные модели на подключении остаются доступны.

Сетевые настройки

Сетевая маршрутизация и контроль локальных данных.

Области прокси управляют сетевой маршрутизацией, а локальное хранение держит операционные данные на вашей машине.

Три области прокси

Маршрутизация глобально, по провайдеру или по отдельному подключению.

  • Глобально · по провайдеру · по подключению
  • Прокси SOCKS5 и HTTP(S)
  • Интеграция с маркетплейсом прокси

Управление TLS и отпечатком клиента

Имитация поддерживаемых клиентов провайдеров вплоть до выбранных характеристик транспорта.

  • Транспорт с поддержкой JA3/JA4 через wreq-js
  • Профили клиентов для конкретных провайдеров
  • Управление исходящим трафиком IPv4 и IPv6

Приватно и локально

Ключи, статистика и история остаются на хосте под вашим контролем.

  • SQLite на диске с шифрованием учётных данных AES-256-GCM
  • Аккаунт OmniRoute не требуется
  • Self-hosting на инфраструктуре по вашему выбору
РоссияКитайИранКубаТурция

Локальная панель

Настраивайте OmniRoute без правки YAML.

Управляйте провайдерами, комбо, аналитикой, состоянием и расходами на localhost:20128/dashboard.

localhost:20128/dashboardПример данных
352провайдеров подключено
90+бесплатных тарифов доступно
198исправны в этом примере
  • Claude Code · OAuth · активен
  • Cerebras · бесплатно · активен
  • Groq · пример cooldown
  • NVIDIA NIM · бесплатно · активен

Протоколы агентов

OmniRoute через MCP и A2A.

OmniRoute может открыть свой шлюз MCP-клиентам, A2A-сетям и поддерживаемым облачным агентам для кода.

MCP-сервер

110 инструментов в 33 областях через транспорты stdio и HTTP.

110 инструментов · 33 областей · stdio / HTTP

claude mcp add omniroute --type http --url http://localhost:20128/api/mcp/stream

A2A-сервер

6 навыков для умной маршрутизации, квот, обнаружения, анализа стоимости и отчётов о состоянии через JSON-RPC 2.0.

6 навыков · JSON-RPC 2.0 · Agent Card

Облачные агенты

Подключайте поддерживаемые процессы Codex, Cursor, Devin и Jules через единую точку оркестрации.

Codex · Cursor · Devin · Jules

Дополнительные сервисы

Расширьте шлюз.

Встроенные сервисы

Запускайте Bifrost, 9Router или CLIProxy как управляемые sidecar-сервисы либо разверните полный профиль кластера.

Ваши знания в контексте

Подключите Notion и Obsidian как источники контекста через MCP.

Встроенные guardrails

Проверка на prompt injection, опциональное скрытие PII и унифицированные фильтры безопасности без привязки к провайдеру.

Цели использования

Серии, достижения и экономия в реальном времени рядом с операционной аналитикой.

От сообщества

Как используют и обсуждают OmniRoute.

Что разработчики создают, спрашивают и публикуют в X, Reddit и YouTube.

32 видео с 32 каналовВсе 32 видео сообщества

Profile picture of Peng
Peng@pengsonal
Link to tweet (opens in a new tab)
one local endpoint for cursor / cline / claude code / copilot 😳 OmniRoute (24.7k★ on GitHub) runs a self-hosted router on your machine so you only need one base URL for all your coding agents. wha…

25 posts from X · 25 Reddit postsВсе публикации

Разработка в открытую

Активность репозитория

Звёзды, форки, контрибьюторы и релизы из сохранённого снимка GitHub.

  • 11,169форков
  • 832контрибьюторов
  • 281релизов выпущено
  • 8,942PR принято
  • 5,072issues закрыто
  • 30,000автотестов

Снимок от 2026-10-16

Discord

Общение, поддержка и roadmap

(откроется в новой вкладке)

Telegram

Новости и анонсы

(откроется в новой вкладке)

WhatsApp 🌍

Глобальное сообщество

(откроется в новой вкладке)

WhatsApp 🇧🇷

Comunidade Brasil

(откроется в новой вкладке)
Контрибьюторы (откроется в новой вкладке)

OmniRoute от Cheaper Inference

Выберите, как запускать OmniRoute.

Разверните OmniRoute у себя или начните с Cheaper Inference: hosted-шлюз с ранжированием по стоимости.

Попробовать Cheaper Inference Развернуть OmniRoute у себя (откроется в новой вкладке)