OmniRouteby Cheaper Inference
O OmniRoute agora faz parte da Cheaper InferenceConheça a Cheaper Inference

#1 roteador de IA open source

Roteie entre 352 provedores por um único endpoint compatível com OpenAI, com fallback automático.

Testar a Cheaper InferenceAuto-hospedar o OmniRoute (abre em uma nova aba)
Compatível com OpenAI Gratuito e open source77.2k estrelas (abre em uma nova aba)

OmniRoute × Cheaper Inference

Combine o fallback automático e as ferramentas de desenvolvedor do OmniRoute com o marketplace ordenado por custo da Cheaper Inference. Toda requisição elegível começa pela rota de provedor mais barata disponível.

97 modelosPreço de tabela direto comparado com o preço Cheaper Inference
Preços de tabela diretos comparados com os preços Cheaper Inference por modelo
ModeloPreço de entradaPreço de saídaEconomiaContextoDetalhes
gpt-5.6-lunaOpenAI · text$0.20$0.08/ 1M tokens$1.20$0.48/ 1M tokens60% de desconto1.1M
gpt-5.6-terraOpenAI · text$2.00$0.80/ 1M tokens$12.00$4.80/ 1M tokens60% de desconto1.1M
gpt-oss-120bOpenAI · text$0.10$0.040483/ 1M tokens$0.50$0.202417/ 1M tokens59.52% de desconto128K
deepseek-v4.1-flashDeepSeek · text$0.15$0.075/ 1M tokens$0.60$0.30/ 1M tokens50% de desconto1.0M
gpt-5.6-solOpenAI · text$4.00$2.00/ 1M tokens$20.00$10.00/ 1M tokens50% de desconto1.1M
glm-4.5Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45% de desconto128K
glm-4.6Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45% de desconto198K
glm-4.7Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45% de desconto128K
Mostrando 8 de 97 modelos
Preço de tabela direto → preço Cheaper Inference · Ver todos os modelos · Ver catálogo ao vivo (abre em uma nova aba)Preços verificados em 14 de out. de 2026, 14:00 UTC. As tarifas podem mudar quando os preços upstream ou as rotas disponíveis mudam.

Controles principais

Um endpoint para os provedores que você configurou.

Core control

Mantenha as requisições fluindo

Quando um destino está indisponível ou sem cota, o OmniRoute seleciona o próximo destino saudável.

Core control

Comprima o contexto elegível

Um pipeline de 12 engines reduz o contexto elegível em 15–95%. O exemplo documentado com uso intenso de ferramentas reduziu em ~89%.

Core control

US$ 0 para começar

90+ níveis gratuitos e 56 provedores gratuitos para sempre, recorrentes ou sem chave. Sem cartão de crédito no início rápido sem chave.

Core control

35 integrações suportadas

Configure Claude Code, Codex, Cursor, Cline, Copilot, Antigravity e outros clientes suportados por um único endpoint.

Core control

Um endpoint

Aceite requisições OpenAI, Claude, Gemini e Responses API em /v1.

Core control

Controles operacionais

Circuit breakers, credenciais criptografadas, MCP, A2A, memória, guardrails e evals vêm com o gateway auto-hospedado.

O catálogo

Tudo atrás de um endpoint.

Um catálogo que abrange chat, mídia, busca, runtimes locais, agentes na nuvem e integrações de sistema.

352 provedores

Todos eles, atrás de um único endpoint local.

O único endpoint para o qual todos os clientes apontamhttp://localhost:20128/v1

14 Search12 Audio-only2 Upstream proxy3 Cloud agent1 System
OpenAIAnthropicGoogleDeepSeekxAIZ.aiMoonshotMiniMaxAlibabaMetaBytedanceAion Labs
25OAuthClaude Code, Codex, Cursor, GitHub Copilot, Kimi Code…
233Chave de APIOpenAI, Anthropic, Groq, NVIDIA, Cerebras, Mistral…
35Cookie webChatGPT Web, Claude Web, Gemini Web, Grok Web…
14LocalOllama, LM Studio, vLLM, llama.cpp…
13Sem autenticaçãoOpenCode Free, Felo, Pollinations e outras rotas sem chave…
Explorar a referência de provedores (opens in a new tab)

Início rápido

Instale, execute, conecte.

Instale o pacote, inicie o gateway e aponte qualquer cliente compatível com OpenAI para a porta 20128.

Catálogo de provedores
352
Estratégias de roteamento
19
Endpoint local
:20128/v1

Step 1: Instalar

Instale o pacote npm omniroute globalmente.

omniroute: install
$ npm install -g omnirouteadded 1 package

Step 2: Executar

Inicie a API e o dashboard juntos na porta 20128.

omniroute: run
$ omniroute▸ dashboard ✓ http://localhost:20128/dashboard▸ api ...... ✓ serving on :20128

Step 3: Conecte sua ferramenta

Use http://localhost:20128/v1; a rota auto sem chave funciona em uma instalação nova.

omniroute: connect
$ curl localhost:20128/v1/models✓ models listed

Controles do gateway

Controles principais do gateway em um só processo.

Configure fallback, cota, compressão, memória, MCP e A2A pelo dashboard local.

Gateway control

Smart Combos

Defina um modelo como auto ou monte seu próprio combo com 19 estratégias e fallback em camadas.

Use um modo pronto ou combine 19 estratégias em torno do objetivo que importa.

Gateway control

Memória

Memória conversacional persistente com busca por palavra-chave FTS5 e recuperação vetorial com Qdrant.

Gateway control

Resiliência em 3 camadas

Breaker por provedor, cooldown de conexão e bloqueio de modelo isolam falhas no menor escopo útil.

Gateway control

Cota gratuita

Contabilidade deduplicada por pool em 90+ níveis gratuitos.

Capacidade gratuita publicada, deduplicada.

Gateway control

Compressão

12 engines combináveis para saída de ferramentas, contexto e estilo de resposta.

Reduza tokens elegíveis em 15–95%.

Gateway control

Servidor MCP

Um servidor embutido que expõe 110 ferramentas do gateway em 33 escopos.

110 ferramentas · 33 escopos · stdio / HTTP

Gateway control

Protocolo A2A

Um servidor de agentes JSON-RPC com 6 skills.

6 skills · JSON-RPC 2.0 · Agent Card

Gateway control

Cache semântico

Uma requisição repetida pode voltar do cache, e o header da resposta informa quanto isso economizou.

X-OmniRoute-Cache: HIT

Compatibilidade de clientes

Mantenha suas ferramentas de código atuais.

Aponte uma CLI ou editor compatível com OpenAI para uma única URL base local; o OmniRoute cuida dos provedores por trás dela.

Claude Code
Codex CLI
Cursor
Cline
GitHub Copilot
Gemini CLI
OpenCode
Kilo Code
Factory Droid
Continue
Roo Code
Antigravity
Aider
OpenClaw
Goose
Grok Build
Windsurf
Devin CLI

http://localhost:20128/v1

request.sh
curl http://localhost:20128/v1/chat/completions \
  -H "Authorization: Bearer $OMNIROUTE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Hello"}]}'

OmniCopilot

Use modelos do OmniRoute no Copilot Chat.

O OmniCopilot adiciona modelos do OmniRoute ao seletor de modelos existente.

Marketplace oficial

Funciona no VS Code estável e Insiders. Instale pelo Marketplace ou pela aba de extensões.

Open VSX Registry

Para Cursor, Windsurf, VSCodium, Theia, code-server, Gitpod e outros editores compatíveis.

Sem plano do Copilot

Modelos de provedores podem rodar pelo OmniRoute no Copilot Chat sem passar a inferência por um plano do Copilot.

VS Code Marketplace (abre em uma nova aba)Open VSX Registry (abre em uma nova aba)OmniCopilot source (abre em uma nova aba)

Falhas comuns

Por que OmniRoute

Veja qual controle resolve cada modo de falha comum.

Without routing
With OmniRoute
A cota expira sem uso
Acompanhe e consuma a cota que você já tem
Rate limits interrompem sua tarefa
Auto-fallback em 4 camadas em milissegundos
Saída de ferramentas queima tokens
Compressão com 12 engines, 15–95% em conteúdo elegível
APIs caras se acumulam
O roteamento otimizado por custo pode escolher o destino elegível mais barato
Cada ferramenta exige sua própria configuração
Um endpoint e um dashboard
Um provedor está indisponível na sua rede
Escopos de proxy e controles de fingerprint do cliente
Uma chave morta derruba um provedor
Breaker, cooldown e bloqueio isolam a falha
Uma equipe compartilha uma assinatura
Pools de chaves e cotas com divisão justa
Você precisa de controle local dos dados de roteamento
Armazenamento local-first com credenciais criptografadas
Sem visibilidade de gastos ou saúde
Análises de uso, cota, economia e latência

Snapshot da documentação

Como os gateways se comparam

Capacidades verificadas na documentação vinculada dos projetos em 2026-08-30.

CapacidadeOmniRoute (abre em uma nova aba)9Router (abre em uma nova aba)LiteLLM (abre em uma nova aba)CLIProxyAPI (abre em uma nova aba)
Provedores35240+100+8+ upstreams
Estratégias de roteamento193-tierretry / priorityround-robin / fill-first
Fallback em camadas com UIYesYesManual policyMulti-account
Compressão de tokens12 engines · 15–95%RTK / Headroom / CavemanNo built-in pipelineHTTP compression

Snapshot do README público e da documentação oficial; confira as fontes vinculadas antes de decisões de compra ou implantação.

Implantação

9 formas suportadas de rodar o OmniRoute.

Instale em um laptop, servidor ou celular, ou conecte por um editor e plugin suportados.

npm

Um comando em qualquer SO desktop suportado

npm install -g omnirouteAbrir guia (abre em uma nova aba)

Docker

Imagem multi-arch AMD64 e ARM64

docker run … diegosouzapw/omnirouteAbrir guia (abre em uma nova aba)

Desktop

Janela nativa e bandeja do sistema no Windows, macOS e Linux

npm run electron:buildAbrir guia (abre em uma nova aba)

ARM

Raspberry Pi, servidores ARM e Apple Silicon

native arm64

Android · Termux

Roda no Android sem root

pkg install nodejs && npx -y omnirouteAbrir guia (abre em uma nova aba)

PWA

Tela cheia, pronto para offline e instalável pelo navegador

Add to Home ScreenAbrir guia (abre em uma nova aba)

OpenCode plugin

Plugin nativo de provedor para OpenCode

@omniroute/opencode-providerAbrir guia (abre em uma nova aba)

VS Code

Modelos do OmniRoute no seletor do Copilot Chat

Install OmniCopilotAbrir guia (abre em uma nova aba)

From source

Mexa no código e contribua

npm install && npm run devAbrir guia (abre em uma nova aba)

Roteamento

Escolha uma rota auto.

Use um modo pronto ou combine 19 estratégias em torno do objetivo que importa.

Modelo · fallback ativadoautoBalanced default
Requisição compatível com OpenAI
curl http://localhost:20128/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Write a TypeScript retry helper."}]}'

Routing alias auto selected. Objective: Balanced default. Fallback enabled.

Consumir cota da assinatura

Use a cota que você já tem antes de recorrer a APIs pagas.

priority · fill-first

Distribuir carga

Balanceie o tráfego entre chaves e contas para reduzir a pressão de rate limit.

weighted · round-robin · p2c · least-used · headroom

Mais barato primeiro

Roteie para o destino elegível de menor custo.

cost-optimized

Sensível ao contexto

Mantenha contextos longos em modelos que os suportam e repasse quando necessário.

context-relay · context-optimized · cache-optimized

Aleatório

Distribua o tráfego elegível entre os destinos.

random · strict-random

Pontuação adaptativa

Use pontuação com 15 fatores, último destino bom conhecido e janelas cientes de reset.

reset-window · reset-aware · lkgp · auto · fusion · pipeline

Contabilidade de níveis gratuitos

Capacidade gratuita publicada, deduplicada.

455 entradas do catálogo são deduplicadas em 40 pools recorrentes; só orçamentos positivos publicados entram no número principal.

1.51B

A contabilidade deduplicada por pool evita que cotas compartilhadas sejam contadas mais de uma vez. Provedores sem limite continuam visíveis sem inflar o total de tokens. Checked 2026-08-30.

Ver o cálculo (abre em uma nova aba)
Provedores gratuitos para sempre, recorrentes ou sem chave56
  • Mistral1B/month
  • LLM7150M/month
  • Nara150M/month
  • Gemini CLI · forever60M/month
  • Kiro50 credits/month
  • Qoder · foreverFree catalog
  • LongCat · forever50M/day
  • Cerebras1M/day
  • NVIDIA NIM~40 RPM
  • Pollinations · foreverNo key
  • Cloudflare Workers AI · foreverDaily neurons
  • OpenCode Free · foreverNo-auth catalog

Compressão de contexto

Reduza tokens elegíveis em 15–95%.

Saída de ferramentas, contexto repetido e dados estruturados inchados podem ser comprimidos antes de chegar ao modelo.

Contexto reduzido em 15–95% nos tokens elegíveis

Antes: The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total. Depois: sum all list items where value > 0

  1. Session-Dedup
  2. CCR
  3. Lite
  4. RTK
  5. Responses Tool Output
  6. Headroom
  7. Relevance
  8. Caveman
  9. Aggressive
  10. LLMLingua-2
  11. Ultra
  12. OmniGlyph

Mesma instrução. Menos contexto para pagar.

Antes69 tokens
The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total.
Depois19 tokens
sum all list items where value > 0

Pipeline combinável

  1. Session-Dedup
    Descarte conteúdo já enviado antes na sessão.
  2. CCR
    Arquive blocos grandes e restaure sob demanda.
  3. Lite
    Aplique limpeza conservadora sem perdas.
  4. RTK
    Filtre e deduplique saída de comandos e ferramentas.
  5. Responses Tool Output
    Compacte payloads de ferramentas da Responses API.
  6. Headroom
    Aplique compactação reversível de dados tabulares e estruturados.
  7. Relevance
    Mantenha as frases mais relevantes para a consulta mais recente.
  8. Caveman
    Use condensação de prosa baseada em regras.
  9. Aggressive
    Aplique a poda configurada mais forte.
  10. LLMLingua-2
    Use poda semântica segura para código em um worker isolado.
  11. Ultra
    Combine estágios de alta economia com proteções de preservação.
  12. OmniGlyph
    Codifique de forma compacta estruturas repetidas elegíveis.

Perfis

Faixa publicada do perfil~30%x-omniroute-compression: standard

Compressão Standard selecionada. Faixa publicada ~30%.

Controles e estilos de saída

  • Perfis nomeados e seletor ativo
  • Visual Compression Studio
  • Anthropic Context Editing
  • Ajuste adaptativo de orçamento de contexto
  • Header \
  • por requisição
  • Harness de eval offline
  • Disparo automático por limite de tokens
  • Terse prose
  • Less code (YAGNI)
  • Terse CJK 文言

Precedência de controle: header da requisição → combo → perfil → política adaptativa → padrão.

Isolamento de falhas

Isole falhas de provedor, conexão e modelo.

Uma chave ruim não deve derrubar um provedor. Um modelo limitado não deve derrubar uma conexão.

modelo ⊂ conexão ⊂ provedor
Circuit breaker por provedorQuando um provedor está com problemas, o roteamento por combo o ignora até que uma sonda half-open tenha sucesso.
Cooldown de conexãoColoque uma chave ou conta em cooldown enquanto as conexões irmãs continuam atendendo.
Bloqueio de modeloBloqueie um modelo com rate limit ou indisponível enquanto os outros modelos da conexão continuam disponíveis.

Controles de rede

Controles de roteamento de rede e dados locais.

Escopos de proxy controlam o roteamento de rede enquanto o armazenamento local-first mantém os dados operacionais na sua máquina.

Três escopos de proxy

Roteie globalmente, por provedor ou por conexão individual.

  • Global · por provedor · por conexão
  • Proxies SOCKS5 e HTTP(S)
  • Integração com marketplace de proxies

Controles de fingerprint TLS e do cliente

Imite clientes de provedores suportados até em características selecionadas do transporte.

  • Transporte com suporte a JA3/JA4 via wreq-js
  • Perfis de cliente específicos por provedor
  • Controles de saída IPv4 e IPv6

Privado e local-first

Chaves, uso e histórico ficam no host que você controla.

  • SQLite em disco com credenciais criptografadas em AES-256-GCM
  • Nenhuma conta OmniRoute necessária
  • Auto-hospede na infraestrutura que você escolher
RússiaChinaIrãCubaTurquia

Dashboard local

Configure o OmniRoute sem editar YAML.

Gerencie provedores, combos, análises, saúde e custos em localhost:20128/dashboard.

localhost:20128/dashboardDados de exemplo
352provedores conectados
90+níveis gratuitos disponíveis
198saudáveis neste exemplo
  • Claude Code · OAuth · ativo
  • Cerebras · gratuito · ativo
  • Groq · exemplo de cooldown
  • NVIDIA NIM · gratuito · ativo

Protocolos de agentes

Exponha o OmniRoute via MCP e A2A.

O OmniRoute pode expor seu gateway a clientes MCP, redes A2A e agentes de código na nuvem suportados.

Servidor MCP

110 ferramentas em 33 escopos pelos transportes stdio e HTTP.

110 ferramentas · 33 escopos · stdio / HTTP

claude mcp add omniroute --type http --url http://localhost:20128/api/mcp/stream

Servidor A2A

6 skills para roteamento inteligente, cota, descoberta, análise de custos e relatórios de saúde via JSON-RPC 2.0.

6 skills · JSON-RPC 2.0 · Agent Card

Agentes na nuvem

Conecte fluxos suportados do Codex, Cursor, Devin e Jules por uma única superfície de orquestração.

Codex · Cursor · Devin · Jules

Serviços adicionais

Estenda o gateway.

Serviços embutidos

Rode Bifrost, 9Router ou CLIProxy como sidecars gerenciados, ou opere um perfil de cluster completo.

Seu conhecimento, no contexto

Conecte Notion e Obsidian como fontes de contexto via MCP.

Guardrails integrados

Verificações de prompt injection, redação opcional de PII e filtros de segurança normalizados sem lock-in de provedor.

Metas de uso

Acompanhe sequências, conquistas e economia ao vivo junto das análises operacionais.

Da comunidade

Como o OmniRoute é usado e discutido.

Veja o que os desenvolvedores estão construindo, perguntando e compartilhando no X, Reddit e YouTube.

32 vídeos de 32 canaisVer todos os 32 vídeos da comunidade

Profile picture of Peng
Peng@pengsonal
Link to tweet (opens in a new tab)
one local endpoint for cursor / cline / claude code / copilot 😳 OmniRoute (24.7k★ on GitHub) runs a self-hosted router on your machine so you only need one base URL for all your coding agents. wha…

25 posts from X · 25 Reddit postsVer todas as publicações

Construído em público

Atividade do repositório

Veja estrelas, forks, contribuidores e releases do snapshot do GitHub versionado no repositório.

  • 11,169forks
  • 832contribuidores
  • 281releases publicadas
  • 8,942PRs mesclados
  • 5,072issues fechadas
  • 30,000testes automatizados

Snapshot de 2026-10-16

Discord

Chat, suporte e roadmap

(abre em uma nova aba)

Telegram

Notícias e anúncios

(abre em uma nova aba)

WhatsApp 🌍

Comunidade global

(abre em uma nova aba)

WhatsApp 🇧🇷

Comunidade Brasil

(abre em uma nova aba)
Conheça os contribuidores (abre em uma nova aba)

OmniRoute da Cheaper Inference

Escolha como você roda o OmniRoute.

Auto-hospede o OmniRoute ou comece com a Cheaper Inference para um gateway hospedado ordenado por custo.

Testar a Cheaper Inference Auto-hospedar o OmniRoute (abre em uma nova aba)