OmniRoute / Capacidades do produto

Controles que você pode inspecionar e auto-hospedar.

Revise os controles do gateway, os serviços da plataforma e o dashboard local sem tratar uma lista de recursos como promessa de hospedagem.

Controles principais

O que vem com o gateway auto-hospedado.

Controle principal

Mantenha as requisições fluindo

Quando um destino está indisponível ou sem cota, o OmniRoute seleciona o próximo destino saudável.

Controle principal

Comprima o contexto elegível

Um pipeline de 12 engines reduz o contexto elegível em 15–95%. O exemplo documentado com uso intenso de ferramentas reduziu em ~89%.

Controle principal

US$ 0 para começar

90+ níveis gratuitos e 56 provedores gratuitos para sempre, recorrentes ou sem chave. Sem cartão de crédito no início rápido sem chave.

Controle principal

35 integrações suportadas

Configure Claude Code, Codex, Cursor, Cline, Copilot, Antigravity e outros clientes suportados por um único endpoint.

Controle principal

Um endpoint

Aceite requisições OpenAI, Claude, Gemini e Responses API em /v1.

Controle principal

Controles operacionais

Circuit breakers, credenciais criptografadas, MCP, A2A, memória, guardrails e evals vêm com o gateway auto-hospedado.

Capacidades

Configure o caminho da requisição em um só dashboard.

Configure fallback, cota, compressão, memória, MCP e A2A pelo dashboard local.

Controle do gateway

Smart Combos

Defina um modelo como auto ou monte seu próprio combo com 19 estratégias e fallback em camadas.

Use um modo pronto ou combine 19 estratégias em torno do objetivo que importa.

Controle do gateway

Memória

Memória conversacional persistente com busca por palavra-chave FTS5 e recuperação vetorial com Qdrant.

Controle do gateway

Resiliência em 3 camadas

Breaker por provedor, cooldown de conexão e bloqueio de modelo isolam falhas no menor escopo útil.

Controle do gateway

Cota gratuita

Contabilidade deduplicada por pool em 90+ níveis gratuitos.

Capacidade gratuita publicada, deduplicada.

Controle do gateway

Compressão

12 engines combináveis para saída de ferramentas, contexto e estilo de resposta.

Reduza tokens elegíveis em 15–95%.

Controle do gateway

Servidor MCP

Um servidor embutido que expõe 110 ferramentas do gateway em 33 escopos.

110 ferramentas · 33 escopos · stdio / HTTP

Controle do gateway

Protocolo A2A

Um servidor de agentes JSON-RPC com 6 skills.

6 skills · JSON-RPC 2.0 · Agent Card

Controle do gateway

Cache semântico

Uma requisição repetida pode voltar do cache, e o header da resposta informa quanto isso economizou.

X-OmniRoute-Cache: HIT

Serviços da plataforma

Estenda o gateway local.

Serviços embutidos

Rode Bifrost, 9Router ou CLIProxy como sidecars gerenciados, ou opere um perfil de cluster completo.

Seu conhecimento, no contexto

Conecte Notion e Obsidian como fontes de contexto via MCP.

Guardrails integrados

Verificações de prompt injection, redação opcional de PII e filtros de segurança normalizados sem lock-in de provedor.

Metas de uso

Acompanhe sequências, conquistas e economia ao vivo junto das análises operacionais.

Dashboard

Inspecione a configuração e visões operacionais de exemplo.

Os valores abaixo são dados de exemplo. Seu dashboard local reflete seus próprios provedores, requisições e custos.

localhost:20128/dashboardDados de exemplo
352provedores conectados
90+níveis gratuitos disponíveis
198saudáveis neste exemplo
  • Claude Code · OAuth · ativo
  • Cerebras · gratuito · ativo
  • Groq · exemplo de cooldown
  • NVIDIA NIM · gratuito · ativo

OmniRoute da Cheaper Inference

Escolha como você roda o OmniRoute.

Auto-hospede o OmniRoute ou use a Cheaper Inference para um gateway hospedado ordenado por custo.