OmniRouteby Cheaper Inference
OmniRoute приєднався до Cheaper InferenceДізнатися про Cheaper Inference

AI-маршрутизатор №1 з відкритим кодом

Маршрутизуйте запити до 352 провайдерів через один OpenAI-сумісний ендпоінт з автоматичним fallback.

Спробувати Cheaper InferenceРозгорнути OmniRoute самостійно (відкривається в новій вкладці)
OpenAI-сумісний Безкоштовний і відкритий код77.2k зірок (відкривається в новій вкладці)

OmniRoute × Cheaper Inference

Поєднайте автоматичний fallback та інструменти розробника OmniRoute з маркетплейсом Cheaper Inference, ранжованим за вартістю. Кожен прийнятний запит починається з найдешевшого доступного маршруту провайдера.

97 моделейПряма ціна за списком у порівнянні з ціною Cheaper Inference
Прямі ціни за списком у порівнянні з цінами Cheaper Inference за моделями
МодельЦіна входуЦіна виходуЕкономіяКонтекстДеталі
gpt-5.6-lunaOpenAI · text$0.20$0.08/ 1M tokens$1.20$0.48/ 1M tokensзнижка 60%1.1M
gpt-5.6-terraOpenAI · text$2.00$0.80/ 1M tokens$12.00$4.80/ 1M tokensзнижка 60%1.1M
gpt-oss-120bOpenAI · text$0.10$0.040483/ 1M tokens$0.50$0.202417/ 1M tokensзнижка 59.52%128K
deepseek-v4.1-flashDeepSeek · text$0.15$0.075/ 1M tokens$0.60$0.30/ 1M tokensзнижка 50%1.0M
gpt-5.6-solOpenAI · text$4.00$2.00/ 1M tokens$20.00$10.00/ 1M tokensзнижка 50%1.1M
glm-4.5Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokensзнижка 45%128K
glm-4.6Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokensзнижка 45%198K
glm-4.7Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokensзнижка 45%128K
Показано 8 з 97 моделей
Пряма ціна за списком → ціна Cheaper Inference · Переглянути всі моделі · Актуальний каталог (відкривається в новій вкладці)Ціни перевірено 14 жовт. 2026 р., 14:00 UTC. Тарифи можуть змінюватися разом із цінами upstream або доступними маршрутами.

Основні механізми

Один ендпоінт для всіх налаштованих провайдерів.

Core control

Запити не зупиняються

Коли ціль недоступна або вичерпала квоту, OmniRoute обирає наступну справну ціль.

Core control

Стиснення прийнятного контексту

Конвеєр із 12 рушіїв скорочує прийнятний контекст на 15–95%. У задокументованому прикладі з великим обсягом інструментів скорочення склало ~89%.

Core control

Старт за $0

90+ безкоштовних тарифів і 56 провайдерів з повторюваними або безключовими назавжди безкоштовними лімітами. Для безключового швидкого старту картка не потрібна.

Core control

35 підтримуваних інтеграцій

Налаштуйте Claude Code, Codex, Cursor, Cline, Copilot, Antigravity та інші підтримувані клієнти через один ендпоінт.

Core control

Один ендпоінт

Приймає запити OpenAI, Claude, Gemini та Responses API на /v1.

Core control

Операційний контроль

Circuit breaker, шифровані облікові дані, MCP, A2A, пам'ять, guardrails та evals входять до self-hosted шлюзу.

Каталог

Усі за одним ендпоінтом.

Каталог охоплює чат, медіа, пошук, локальні рантайми, хмарних агентів і системні інтеграції.

352 провайдерів

Усі вони за одним локальним ендпоінтом.

Єдиний ендпоінт, на який вказує кожен клієнтhttp://localhost:20128/v1

14 Search12 Audio-only2 Upstream proxy3 Cloud agent1 System
OpenAIAnthropicGoogleDeepSeekxAIZ.aiMoonshotMiniMaxAlibabaMetaBytedanceAion Labs
25OAuthClaude Code, Codex, Cursor, GitHub Copilot, Kimi Code…
233API-ключOpenAI, Anthropic, Groq, NVIDIA, Cerebras, Mistral…
35Веб-cookieChatGPT Web, Claude Web, Gemini Web, Grok Web…
14ЛокальніOllama, LM Studio, vLLM, llama.cpp…
13Без автентифікаціїOpenCode Free, Felo, Pollinations та інші безключові маршрути…
Відкрити довідник провайдерів (opens in a new tab)

Швидкий старт

Встановіть, запустіть, підключіть.

Встановіть пакет, запустіть шлюз і вкажіть будь-якому OpenAI-сумісному клієнту порт 20128.

Каталог провайдерів
352
Стратегії маршрутизації
19
Локальний ендпоінт
:20128/v1

Step 1: Встановлення

Встановіть npm-пакет omniroute глобально.

omniroute: install
$ npm install -g omnirouteadded 1 package

Step 2: Запуск

Запустіть API та дашборд разом на порту 20128.

omniroute: run
$ omniroute▸ dashboard ✓ http://localhost:20128/dashboard▸ api ...... ✓ serving on :20128

Step 3: Підключіть свій інструмент

Використовуйте http://localhost:20128/v1; безключовий маршрут auto працює одразу після встановлення.

omniroute: connect
$ curl localhost:20128/v1/models✓ models listed

Керування шлюзом

Основні механізми шлюзу в одному процесі.

Налаштовуйте fallback, квоти, стиснення, пам'ять, MCP і A2A з локального дашборда.

Gateway control

Smart Combos

Виберіть модель auto або зберіть власне комбо з 19 стратегій і багаторівневим fallback.

Скористайтеся готовим режимом або поєднайте 19 стратегій навколо важливої для вас цілі.

Gateway control

Пам'ять

Постійна пам'ять розмов із пошуком за ключовими словами FTS5 та векторним пошуком Qdrant.

Gateway control

Стійкість у 3 рівні

Circuit breaker провайдера, cooldown з'єднання та блокування моделі ізолюють збої в найменшому корисному обсязі.

Gateway control

Безкоштовна квота

Облік без дублювання пулів для 90+ безкоштовних тарифів.

Опублікована ємність безкоштовних тарифів без дублювання.

Gateway control

Стиснення

12 компонованих рушіїв для виводу інструментів, контексту та стилю відповіді.

Скорочуйте прийнятні токени на 15–95%.

Gateway control

MCP-сервер

Вбудований сервер, що надає 110 інструментів шлюзу в 33 областях.

110 інструментів · 33 областей · stdio / HTTP

Gateway control

Протокол A2A

JSON-RPC агентний сервер із 6 навичками.

6 навичок · JSON-RPC 2.0 · Agent Card

Gateway control

Семантичний кеш

Повторний запит може повернутися з кешу, а заголовок відповіді повідомляє, скільки це заощадило.

X-OmniRoute-Cache: HIT

Сумісність клієнтів

Залиште свої звичні інструменти для коду.

Вкажіть OpenAI-сумісному CLI або редактору один локальний base URL; провайдерами за ним керує OmniRoute.

Claude Code
Codex CLI
Cursor
Cline
GitHub Copilot
Gemini CLI
OpenCode
Kilo Code
Factory Droid
Continue
Roo Code
Antigravity
Aider
OpenClaw
Goose
Grok Build
Windsurf
Devin CLI

http://localhost:20128/v1

request.sh
curl http://localhost:20128/v1/chat/completions \
  -H "Authorization: Bearer $OMNIROUTE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Hello"}]}'

OmniCopilot

Використовуйте моделі OmniRoute у Copilot Chat.

OmniCopilot додає моделі OmniRoute до наявного вибору моделей.

Офіційний Marketplace

Працює у VS Code stable та Insiders. Встановіть із Marketplace або з панелі Extensions.

Реєстр Open VSX

Для Cursor, Windsurf, VSCodium, Theia, code-server, Gitpod та інших сумісних редакторів.

План Copilot не потрібен

Моделі провайдерів можуть працювати через OmniRoute у Copilot Chat без проходження інференсу через план Copilot.

VS Code Marketplace (відкривається в новій вкладці)Open VSX Registry (відкривається в новій вкладці)OmniCopilot source (відкривається в новій вкладці)

Типові збої

Чому OmniRoute

Подивіться, який механізм закриває кожен типовий збій.

Without routing
With OmniRoute
Квота згорає невикористаною
Відстежуйте й вичерпуйте ліміт, який уже маєте
Rate limit зупиняє посеред задачі
Автоматичний fallback у 4 рівні за мілісекунди
Вивід інструментів спалює токени
Стиснення 12 рушіями, 15–95% на прийнятному вмісті
Дорогі API накопичують витрати
Маршрутизація за вартістю може обрати найдешевшу прийнятну ціль
Кожен інструмент потребує окремого налаштування
Один ендпоінт і один дашборд
Провайдер недоступний з вашої мережі
Області проксі та керування відбитком клієнта
Один мертвий ключ ламає провайдера
Breaker, cooldown і блокування ізолюють збій
Команда ділить одну підписку
Пули ключів і справедливий розподіл квот
Потрібен локальний контроль даних маршрутизації
Local-first сховище з шифрованими обліковими даними
Немає видимості витрат і стану
Аналітика використання, квот, економії та затримки

Зріз документації

Порівняння шлюзів

Можливості перевірено за документацією проєктів за посиланнями станом на 2026-08-30.

МожливістьOmniRoute (відкривається в новій вкладці)9Router (відкривається в новій вкладці)LiteLLM (відкривається в новій вкладці)CLIProxyAPI (відкривається в новій вкладці)
Провайдери35240+100+8+ upstreams
Стратегії маршрутизації193-tierretry / priorityround-robin / fill-first
Багаторівневий fallback з UIYesYesManual policyMulti-account
Стиснення токенів12 engines · 15–95%RTK / Headroom / CavemanNo built-in pipelineHTTP compression

Зріз публічного README та офіційної документації; перед купівлею чи розгортанням звірте джерела за посиланнями.

Розгортання

9 підтримуваних способів запустити OmniRoute.

Встановіть на ноутбук, сервер чи телефон або підключайтеся через підтримуваний редактор і плагін.

npm

Одна команда на будь-якій підтримуваній десктопній ОС

npm install -g omnirouteВідкрити посібник (відкривається в новій вкладці)

Docker

Мультиархітектурний образ AMD64 та ARM64

docker run … diegosouzapw/omnirouteВідкрити посібник (відкривається в новій вкладці)

Desktop

Нативне вікно та системний трей у Windows, macOS і Linux

npm run electron:buildВідкрити посібник (відкривається в новій вкладці)

ARM

Raspberry Pi, ARM-сервери та Apple Silicon

native arm64

Android · Termux

Працює на Android без root

pkg install nodejs && npx -y omnirouteВідкрити посібник (відкривається в новій вкладці)

PWA

Повноекранний, працює офлайн і встановлюється з браузера

Add to Home ScreenВідкрити посібник (відкривається в новій вкладці)

OpenCode plugin

Нативний плагін провайдера для OpenCode

@omniroute/opencode-providerВідкрити посібник (відкривається в новій вкладці)

VS Code

Моделі OmniRoute у виборі моделей Copilot Chat

Install OmniCopilotВідкрити посібник (відкривається в новій вкладці)

From source

Досліджуйте код і робіть внесок

npm install && npm run devВідкрити посібник (відкривається в новій вкладці)

Маршрутизація

Виберіть маршрут auto.

Скористайтеся готовим режимом або поєднайте 19 стратегій навколо важливої для вас цілі.

Модель · fallback увімкненоautoBalanced default
OpenAI-сумісний запит
curl http://localhost:20128/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Write a TypeScript retry helper."}]}'

Routing alias auto selected. Objective: Balanced default. Fallback enabled.

Вичерпати квоту підписки

Використовуйте вже наявну квоту, перш ніж торкатися платних API.

priority · fill-first

Розподілити навантаження

Балансуйте трафік між ключами й акаунтами, щоб зменшити тиск rate limit.

weighted · round-robin · p2c · least-used · headroom

Спочатку найдешевше

Маршрутизація до найдешевшої прийнятної цілі.

cost-optimized

З урахуванням контексту

Тримайте довгі контексти на моделях, яким вони підходять, і передавайте далі за потреби.

context-relay · context-optimized · cache-optimized

Випадковий

Розподіл прийнятного трафіку між цілями.

random · strict-random

Адаптивна оцінка

Оцінка за 15 факторами, last-known-good і вікна з урахуванням скидання.

reset-window · reset-aware · lkgp · auto · fusion · pipeline

Облік безкоштовних тарифів

Опублікована ємність безкоштовних тарифів без дублювання.

455 записів каталогу зведено в 40 повторюваних пулів; у підсумок потрапляють лише опубліковані додатні бюджети.

1.51B

Облік без дублювання пулів не дає порахувати спільні квоти двічі. Провайдери без ліміту залишаються видимими, не завищуючи загальну кількість токенів. Checked 2026-08-30.

Переглянути розрахунок (відкривається в новій вкладці)
Провайдери з повторюваними або безключовими назавжди безкоштовними лімітами56
  • Mistral1B/month
  • LLM7150M/month
  • Nara150M/month
  • Gemini CLI · forever60M/month
  • Kiro50 credits/month
  • Qoder · foreverFree catalog
  • LongCat · forever50M/day
  • Cerebras1M/day
  • NVIDIA NIM~40 RPM
  • Pollinations · foreverNo key
  • Cloudflare Workers AI · foreverDaily neurons
  • OpenCode Free · foreverNo-auth catalog

Стиснення контексту

Скорочуйте прийнятні токени на 15–95%.

Вивід інструментів, повторюваний контекст і роздуті структуровані дані можна стиснути до того, як вони дійдуть до моделі.

Контекст скорочено на 15–95% серед прийнятних токенів

До: The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total. Після: sum all list items where value > 0

  1. Session-Dedup
  2. CCR
  3. Lite
  4. RTK
  5. Responses Tool Output
  6. Headroom
  7. Relevance
  8. Caveman
  9. Aggressive
  10. LLMLingua-2
  11. Ultra
  12. OmniGlyph

Та сама інструкція. Менше контексту, за який треба платити.

До69 tokens
The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total.
Після19 tokens
sum all list items where value > 0

Компонований конвеєр

  1. Session-Dedup
    Відкидає вміст, уже надісланий раніше в сесії.
  2. CCR
    Архівує великі блоки та відновлює їх на вимогу.
  3. Lite
    Консервативне очищення без втрат.
  4. RTK
    Фільтрує та дедуплікує вивід команд і інструментів.
  5. Responses Tool Output
    Ущільнює payload інструментів Responses API.
  6. Headroom
    Оборотне ущільнення таблиць і структурованих даних.
  7. Relevance
    Зберігає речення, найбільш релевантні останньому запиту.
  8. Caveman
    Стискає прозу за правилами.
  9. Aggressive
    Застосовує сильніше налаштоване відсікання.
  10. LLMLingua-2
    Безпечне для коду семантичне відсікання в ізольованому воркері.
  11. Ultra
    Поєднує етапи з високою економією та захистом важливого вмісту.
  12. OmniGlyph
    Компактно кодує прийнятні повторювані структури.

Профілі

Опублікований діапазон профілю~30%x-omniroute-compression: standard

Вибрано стиснення Standard. Опублікований діапазон ~30%.

Керування та стилі виводу

  • Іменовані профілі та активний селектор
  • Візуальна Compression Studio
  • Anthropic Context Editing
  • Адаптивний регулятор бюджету контексту
  • Заголовок \
  • для окремого запиту
  • Офлайн-стенд для evals
  • Автозапуск за порогом токенів
  • Terse prose
  • Less code (YAGNI)
  • Terse CJK 文言

Пріоритет керування: заголовок запиту → комбо → профіль → адаптивна політика → за замовчуванням.

Ізоляція збоїв

Ізолюйте збої провайдера, з'єднання та моделі.

Поганий ключ не має вбивати провайдера. Обмежена модель не має вбивати з'єднання.

модель ⊂ з'єднання ⊂ провайдер
Circuit breaker провайдераКоли провайдер несправний, маршрутизація комбо пропускає його, доки не пройде напіввідкрита перевірка.
Cooldown з'єднанняОхолодіть один ключ або акаунт, поки сусідні з'єднання продовжують обслуговувати запити.
Блокування моделіБлокує одну обмежену або недоступну модель, поки інші моделі на з'єднанні залишаються доступними.

Мережевий контроль

Керування мережевою маршрутизацією та локальними даними.

Області проксі керують мережевою маршрутизацією, а local-first сховище тримає операційні дані на вашій машині.

Три області проксі

Маршрутизуйте глобально, для окремого провайдера або для окремого з'єднання.

  • Глобально · для провайдера · для з'єднання
  • Проксі SOCKS5 і HTTP(S)
  • Інтеграція з маркетплейсом проксі

Керування відбитком TLS і клієнта

Відповідність підтримуваним клієнтам провайдерів аж до вибраних характеристик транспорту.

  • Транспорт з підтримкою JA3/JA4 через wreq-js
  • Профілі клієнтів для конкретних провайдерів
  • Керування вихідним трафіком IPv4 та IPv6

Приватно та local-first

Ключі, використання та історія залишаються на хості, який ви контролюєте.

  • SQLite на диску з обліковими даними, шифрованими AES-256-GCM
  • Акаунт OmniRoute не потрібен
  • Self-hosting на інфраструктурі на ваш вибір
РосіяКитайІранКубаТуреччина

Локальний дашборд

Налаштовуйте OmniRoute без редагування YAML.

Керуйте провайдерами, комбо, аналітикою, станом і витратами на localhost:20128/dashboard.

localhost:20128/dashboardПриклад даних
352провайдерів підключено
90+безкоштовних тарифів доступно
198справних у цьому прикладі
  • Claude Code · OAuth · активний
  • Cerebras · безкоштовно · активний
  • Groq · приклад cooldown
  • NVIDIA NIM · безкоштовно · активний

Агентні протоколи

Відкрийте OmniRoute через MCP і A2A.

OmniRoute може відкрити свій шлюз для MCP-клієнтів, мереж A2A та підтримуваних хмарних агентів для коду.

MCP-сервер

110 інструментів у 33 областях через транспорти stdio та HTTP.

110 інструментів · 33 областей · stdio / HTTP

claude mcp add omniroute --type http --url http://localhost:20128/api/mcp/stream

A2A-сервер

6 навичок для розумної маршрутизації, квот, виявлення, аналізу витрат і звітів про стан через JSON-RPC 2.0.

6 навичок · JSON-RPC 2.0 · Agent Card

Хмарні агенти

Підключайте підтримувані робочі процеси Codex, Cursor, Devin і Jules через одну поверхню оркестрації.

Codex · Cursor · Devin · Jules

Додаткові сервіси

Розширюйте шлюз.

Вбудовані сервіси

Запускайте Bifrost, 9Router або CLIProxy як керовані sidecar або працюйте з повним кластерним профілем.

Ваші знання в контексті

Підключайте Notion і Obsidian як джерела контексту через MCP.

Вбудовані guardrails

Перевірки на prompt injection, опційне приховування PII та нормалізовані фільтри безпеки без прив'язки до провайдера.

Цілі використання

Відстежуйте серії, досягнення та економію в реальному часі поряд з операційною аналітикою.

Від спільноти

Як використовують і обговорюють OmniRoute.

Подивіться, що розробники створюють, запитують і чим діляться на X, Reddit і YouTube.

32 відео з 32 каналівУсі 32 відео спільноти

Profile picture of Peng
Peng@pengsonal
Link to tweet (opens in a new tab)
one local endpoint for cursor / cline / claude code / copilot 😳 OmniRoute (24.7k★ on GitHub) runs a self-hosted router on your machine so you only need one base URL for all your coding agents. wha…

25 posts from X · 25 Reddit postsУсі публікації

Створено відкрито

Активність репозиторію

Зірки, форки, контриб'ютори та релізи із збереженого зрізу GitHub.

  • 11,169форків
  • 832контриб'юторів
  • 281релізів випущено
  • 8,942PR злито
  • 5,072issues закрито
  • 30,000автоматизованих тестів

Зріз від 2026-10-16

Discord

Чат, підтримка та roadmap

(відкривається в новій вкладці)

Telegram

Новини та анонси

(відкривається в новій вкладці)

WhatsApp 🌍

Глобальна спільнота

(відкривається в новій вкладці)

WhatsApp 🇧🇷

Comunidade Brasil

(відкривається в новій вкладці)
Познайомтеся з контриб'юторами (відкривається в новій вкладці)

OmniRoute від Cheaper Inference

Виберіть, як запускати OmniRoute.

Розгорніть OmniRoute самостійно або почніть із Cheaper Inference, хостованого шлюзу з ранжуванням за вартістю.

Спробувати Cheaper Inference Розгорнути OmniRoute самостійно (відкривається в новій вкладці)