OmniRoute / Възможности на продукта

Контроли, които можете да проверите и хоствате сами.

Прегледайте контролите на gateway-а, платформените услуги и локалното табло, без да приемате списъка с функции за обещание за хостинг.

Основни контроли

Какво идва със self-hosted gateway-а.

Основен контрол

Заявките не спират

Когато дадена цел е недостъпна или без квота, OmniRoute избира следващата работеща цел.

Основен контрол

Компресирайте допустимия контекст

Конвейер с 12 енджина намалява допустимия контекст с 15–95%. Документираният пример с интензивна употреба на инструменти го намали с ~89%.

Основен контрол

Старт за $0

90+ безплатни плана и 56 доставчици с периодично или безключово безплатно ниво завинаги. Без кредитна карта за бързия старт без ключ.

Основен контрол

35 поддържани интеграции

Конфигурирайте Claude Code, Codex, Cursor, Cline, Copilot, Antigravity и други поддържани клиенти през една крайна точка.

Основен контрол

Една крайна точка

Приема заявки за OpenAI, Claude, Gemini и Responses API на /v1.

Основен контрол

Оперативни контроли

Circuit breakers, шифрирани креденшъли, MCP, A2A, памет, guardrails и evals идват със self-hosted gateway-а.

Възможности

Конфигурирайте пътя на заявката от едно табло.

Конфигурирайте fallback, квоти, компресия, памет, MCP и A2A от локалното табло.

Контрол на gateway-а

Smart Combos

Задайте модел auto или изградете собствено комбо с 19 стратегии и многостепенен fallback.

Използвайте готов режим или комбинирайте 19 стратегии около целта, която е важна за вас.

Контрол на gateway-а

Памет

Постоянна разговорна памет с FTS5 търсене по ключови думи и векторно извличане чрез Qdrant.

Контрол на gateway-а

Устойчивост на 3 нива

Breaker на доставчика, cooldown на връзката и блокиране на модела изолират отказите в най-малкия полезен обхват.

Контрол на gateway-а

Безплатна квота

Отчитане без дублиране в пула за 90+ безплатни плана.

Публикуван безплатен капацитет, без дублиране.

Контрол на gateway-а

Компресия

12 комбинируеми енджина за изход от инструменти, контекст и стил на отговора.

Намалете допустимите токени с 15–95%.

Контрол на gateway-а

MCP сървър

Вграден сървър, който предоставя 110 gateway инструмента в 33 обхвата.

110 инструмента · 33 обхвата · stdio / HTTP

Контрол на gateway-а

A2A протокол

JSON-RPC агентен сървър с 6 умения.

6 умения · JSON-RPC 2.0 · Agent Card

Контрол на gateway-а

Семантичен кеш

Повторна заявка може да се върне от кеша, а хедърът на отговора показва какво е спестено.

X-OmniRoute-Cache: HIT

Платформени услуги

Разширете локалния gateway.

Вградени услуги

Стартирайте Bifrost, 9Router или CLIProxy като управлявани sidecar-и, или работете с пълен клъстерен профил.

Вашите знания, в контекст

Свържете Notion и Obsidian като източници на контекст чрез MCP.

Вградени guardrails

Проверки за prompt injection, редакция на лични данни по избор и нормализирани филтри за безопасност без обвързване с доставчик.

Цели за употреба

Следете серии, постижения и спестявания на живо редом с оперативните анализи.

Табло

Разгледайте конфигурацията и примерни оперативни изгледи.

Стойностите по-долу са примерни данни. Вашето локално табло отразява вашите доставчици, заявки и разходи.

localhost:20128/dashboardПримерни данни
352свързани доставчици
90+налични безплатни планове
198здрави в този пример
  • Claude Code · OAuth · активен
  • Cerebras · безплатен · активен
  • Groq · примерен cooldown
  • NVIDIA NIM · безплатен · активен

OmniRoute от Cheaper Inference

Изберете как да стартирате OmniRoute.

Хоствайте OmniRoute сами или използвайте Cheaper Inference за хостван gateway, подреден по цена.