Основной механизм
Запросы не останавливаются
Если цель недоступна или исчерпала квоту, OmniRoute выбирает следующую работоспособную цель.
OmniRoute / Возможности продукта
Механизмы, которые можно изучить и развернуть у себя.
Изучите механизмы шлюза, платформенные сервисы и локальную панель, не принимая список возможностей за обещание хостинга.
Основные механизмы
Что входит в self-hosted шлюз.
Основной механизм
Сжатие подходящего контекста
Конвейер из 12 движков сокращает подходящий контекст на 15–95%. В задокументированном примере с большим объёмом вывода инструментов сокращение составило ~89%.
Основной механизм
Старт за $0
90+ бесплатных тарифов и 56 постоянно бесплатных провайдеров с возобновляемой квотой или без ключа. Для быстрого старта без ключа банковская карта не нужна.
Основной механизм
35 поддерживаемых интеграций
Настройте Claude Code, Codex, Cursor, Cline, Copilot, Antigravity и другие поддерживаемые клиенты через один эндпоинт.
Основной механизм
Один эндпоинт
Принимает запросы OpenAI, Claude, Gemini и Responses API на /v1.
Основной механизм
Операционный контроль
Circuit breaker, шифрование учётных данных, MCP, A2A, память, guardrails и evals входят в self-hosted шлюз.
Возможности
Настройка пути запроса из одной панели.
Настраивайте fallback, квоты, сжатие, память, MCP и A2A из локальной панели управления.
Механизм шлюза
Умные комбо
Укажите модель auto или соберите своё комбо из 19 стратегий с многоуровневым fallback.
Используйте готовый режим или комбинируйте 19 стратегий вокруг важной для вас цели.
Механизм шлюза
Память
Постоянная память диалогов с поиском по ключевым словам FTS5 и векторным поиском Qdrant.
Механизм шлюза
Отказоустойчивость в 3 слоя
Breaker провайдера, cooldown подключения и блокировка модели изолируют сбои на минимально необходимом уровне.
Механизм шлюза
Бесплатная квота
Учёт с дедупликацией пулов по 90+ бесплатным тарифам.
Опубликованный объём бесплатных тарифов, без дублей.
Механизм шлюза
Сжатие
12 комбинируемых движков для вывода инструментов, контекста и стиля ответов.
Сократите подходящие токены на 15–95%.
Механизм шлюза
MCP-сервер
Встроенный сервер с 110 инструментами шлюза в 33 областях.
110 инструментов · 33 областей · stdio / HTTP
Механизм шлюза
Протокол A2A
JSON-RPC сервер агента с 6 навыками.
6 навыков · JSON-RPC 2.0 · Agent Card
Механизм шлюза
Семантический кеш
Повторный запрос может вернуться из кеша, а заголовок ответа сообщает, сколько это сэкономило.
X-OmniRoute-Cache: HIT
Платформенные сервисы
Расширьте локальный шлюз.
Встроенные сервисы
Запускайте Bifrost, 9Router или CLIProxy как управляемые sidecar-сервисы либо разверните полный профиль кластера.
Ваши знания в контексте
Подключите Notion и Obsidian как источники контекста через MCP.
Встроенные guardrails
Проверка на prompt injection, опциональное скрытие PII и унифицированные фильтры безопасности без привязки к провайдеру.
Цели использования
Серии, достижения и экономия в реальном времени рядом с операционной аналитикой.
Панель управления
Конфигурация и примеры рабочих представлений.
Значения ниже приведены для примера. Ваша локальная панель отражает ваших провайдеров, запросы и расходы.
352провайдеров подключено
90+бесплатных тарифов доступно
198исправны в этом примере
- Claude Code · OAuth · активен
- Cerebras · бесплатно · активен
- Groq · пример cooldown
- NVIDIA NIM · бесплатно · активен
19стратегий маршрутизации
8msпример failover
- auto · оценка по 15 факторам
- auto/cheap · оптимизация по стоимости
- auto/coding · приоритет качества
1.42Mзапросов · пример за 30 дней
99.4%пример доли успешных
312msпример задержки p50
- Запросы во времени
- Доля провайдеров
- Использование моделей и эндпоинтов
3слоя отказоустойчивости
2ключей в cooldown в примере
- Circuit breaker провайдеров
- Cooldown подключений
- Блокировки моделей
$0.00потрачено · пример за 30 дней
1.51Bбесплатных токенов в примере
- Бесплатные тарифы
- Подписки с фиксированной платой
- Платные API