OmniRouteby Cheaper Inference
O OmniRoute juntou-se à Cheaper InferenceExplorar a Cheaper Inference

Router de IA open source n.º 1

Encaminhe pedidos por 352 fornecedores através de um endpoint compatível com OpenAI, com fallback automático.

Experimentar a Cheaper InferenceAlojar o OmniRoute (abre num novo separador)
Compatível com OpenAI Gratuito e open source77.2k estrelas (abre num novo separador)

OmniRoute × Cheaper Inference

Combine o fallback automático e as ferramentas de programação do OmniRoute com o marketplace ordenado por custo da Cheaper Inference. Cada pedido elegível começa pela rota de fornecedor mais barata disponível.

97 modelosPreço de lista direto comparado com o preço Cheaper Inference
Preços de lista diretos comparados com os preços Cheaper Inference por modelo
ModeloPreço de entradaPreço de saídaPoupançaContextoDetalhes
gpt-5.6-lunaOpenAI · text$0.20$0.08/ 1M tokens$1.20$0.48/ 1M tokens60% de desconto1.1M
gpt-5.6-terraOpenAI · text$2.00$0.80/ 1M tokens$12.00$4.80/ 1M tokens60% de desconto1.1M
gpt-oss-120bOpenAI · text$0.10$0.040483/ 1M tokens$0.50$0.202417/ 1M tokens59.52% de desconto128K
deepseek-v4.1-flashDeepSeek · text$0.15$0.075/ 1M tokens$0.60$0.30/ 1M tokens50% de desconto1.0M
gpt-5.6-solOpenAI · text$4.00$2.00/ 1M tokens$20.00$10.00/ 1M tokens50% de desconto1.1M
glm-4.5Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45% de desconto128K
glm-4.6Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45% de desconto198K
glm-4.7Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45% de desconto128K
A mostrar 8 de 97 modelos
Preço de lista direto → preço Cheaper Inference · Explorar todos os modelos · Ver catálogo em tempo real (abre num novo separador)Preços verificados em 14 de out. de 2026, 14:00 UTC. As tarifas podem mudar quando os preços upstream ou as rotas disponíveis mudam.

Controlos essenciais

Um endpoint para os fornecedores que configurou.

Core control

Mantenha os pedidos a fluir

Quando um destino está indisponível ou sem quota, o OmniRoute seleciona o próximo destino saudável.

Core control

Comprima o contexto elegível

Um pipeline com 12 motores reduz o contexto elegível em 15–95%. O exemplo documentado com muitas ferramentas reduziu-o em ~89%.

Core control

0 $ para começar

90+ escalões gratuitos e 56 fornecedores gratuitos para sempre, recorrentes ou sem chave. Sem cartão de crédito para o arranque rápido sem chave.

Core control

35 integrações suportadas

Configure o Claude Code, Codex, Cursor, Cline, Copilot, Antigravity e outros clientes suportados através de um único endpoint.

Core control

Um endpoint

Aceite pedidos OpenAI, Claude, Gemini e Responses API em /v1.

Core control

Controlos operacionais

Circuit breakers, credenciais encriptadas, MCP, A2A, memória, guardrails e evals incluídos no gateway auto-alojado.

O catálogo

Tudo atrás de um endpoint.

Um catálogo que abrange chat, multimédia, pesquisa, runtimes locais, agentes na cloud e integrações de sistema.

352 fornecedores

Todos eles, atrás de um único endpoint local.

O único endpoint para onde todos os clientes apontamhttp://localhost:20128/v1

14 Search12 Audio-only2 Upstream proxy3 Cloud agent1 System
OpenAIAnthropicGoogleDeepSeekxAIZ.aiMoonshotMiniMaxAlibabaMetaBytedanceAion Labs
25OAuthClaude Code, Codex, Cursor, GitHub Copilot, Kimi Code…
233Chave de APIOpenAI, Anthropic, Groq, NVIDIA, Cerebras, Mistral…
35Cookie webChatGPT Web, Claude Web, Gemini Web, Grok Web…
14LocalOllama, LM Studio, vLLM, llama.cpp…
13Sem autenticaçãoOpenCode Free, Felo, Pollinations e outras rotas sem chave…
Explorar a referência de fornecedores (opens in a new tab)

Arranque rápido

Instale, execute, ligue.

Instale o pacote, arranque o gateway e depois aponte qualquer cliente compatível com OpenAI para a porta 20128.

Catálogo de fornecedores
352
Estratégias de encaminhamento
19
Endpoint local
:20128/v1

Step 1: Instalar

Instale globalmente o pacote npm omniroute.

omniroute: install
$ npm install -g omnirouteadded 1 package

Step 2: Executar

Arranque a API e o painel em conjunto na porta 20128.

omniroute: run
$ omniroute▸ dashboard ✓ http://localhost:20128/dashboard▸ api ...... ✓ serving on :20128

Step 3: Ligue a sua ferramenta

Use http://localhost:20128/v1; a rota automática sem chave funciona numa instalação nova.

omniroute: connect
$ curl localhost:20128/v1/models✓ models listed

Controlos do gateway

Controlos essenciais do gateway num só processo.

Configure fallback, quota, compressão, memória, MCP e A2A a partir do painel local.

Gateway control

Smart Combos

Defina um modelo como auto ou construa o seu próprio combo com 19 estratégias e fallback por níveis.

Use um modo pronto a usar ou combine 19 estratégias em torno do objetivo que importa.

Gateway control

Memória

Memória conversacional persistente com pesquisa por palavras-chave FTS5 e recuperação vetorial Qdrant.

Gateway control

Resiliência em 3 camadas

Breaker por fornecedor, cooldown por ligação e bloqueio por modelo isolam as falhas no menor âmbito útil.

Gateway control

Quota gratuita

Contabilidade sem duplicados por pool em 90+ escalões gratuitos.

Capacidade gratuita publicada, sem duplicados.

Gateway control

Compressão

12 motores combináveis para saída de ferramentas, contexto e estilo de resposta.

Reduza os tokens elegíveis em 15–95%.

Gateway control

Servidor MCP

Um servidor integrado que expõe 110 ferramentas do gateway em 33 âmbitos.

110 ferramentas · 33 âmbitos · stdio / HTTP

Gateway control

Protocolo A2A

Um servidor de agentes JSON-RPC com 6 skills.

6 skills · JSON-RPC 2.0 · Agent Card

Gateway control

Cache semântica

Um pedido repetido pode ser devolvido a partir da cache, e o cabeçalho da resposta indica o que isso poupou.

X-OmniRoute-Cache: HIT

Compatibilidade de clientes

Mantenha as suas ferramentas de programação.

Aponte uma CLI ou editor compatível com OpenAI para um único URL base local; o OmniRoute trata dos fornecedores por trás.

Claude Code
Codex CLI
Cursor
Cline
GitHub Copilot
Gemini CLI
OpenCode
Kilo Code
Factory Droid
Continue
Roo Code
Antigravity
Aider
OpenClaw
Goose
Grok Build
Windsurf
Devin CLI

http://localhost:20128/v1

request.sh
curl http://localhost:20128/v1/chat/completions \
  -H "Authorization: Bearer $OMNIROUTE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Hello"}]}'

OmniCopilot

Use modelos do OmniRoute no Copilot Chat.

O OmniCopilot adiciona modelos do OmniRoute ao seletor de modelos existente.

Marketplace oficial

Funciona no VS Code estável e Insiders. Instale a partir do Marketplace ou da vista de Extensões.

Registo Open VSX

Para Cursor, Windsurf, VSCodium, Theia, code-server, Gitpod e outros editores compatíveis.

Sem necessidade de plano Copilot

Os modelos dos fornecedores podem correr através do OmniRoute no Copilot Chat sem encaminhar a inferência por um plano Copilot.

VS Code Marketplace (abre num novo separador)Open VSX Registry (abre num novo separador)OmniCopilot source (abre num novo separador)

Modos de falha comuns

Porquê o OmniRoute

Veja que controlo responde a cada modo de falha comum.

Without routing
With OmniRoute
A quota expira sem ser usada
Acompanhe e esgote o saldo que já tem
Os rate limits param-no a meio da tarefa
Fallback automático em 4 níveis em milissegundos
A saída das ferramentas queima tokens
Compressão com 12 motores, 15–95% em conteúdo elegível
APIs caras acumulam-se
O encaminhamento otimizado por custo pode escolher o destino elegível mais barato
Cada ferramenta precisa da sua configuração
Um endpoint e um painel
Um fornecedor está indisponível a partir da sua rede
Âmbitos de proxy e controlos de fingerprint do cliente
Uma chave morta estraga um fornecedor
Breaker, cooldown e bloqueio isolam a falha
Uma equipa partilha uma subscrição
Pools de chaves e quotas de partilha justa
Precisa de controlo local dos dados de encaminhamento
Armazenamento local-first com credenciais encriptadas
Sem visibilidade de gastos ou saúde
Análises de utilização, quota, poupança e latência

Snapshot da documentação

Como os gateways se comparam

Capacidades verificadas contra a documentação ligada de cada projeto em 2026-08-30.

CapacidadeOmniRoute (abre num novo separador)9Router (abre num novo separador)LiteLLM (abre num novo separador)CLIProxyAPI (abre num novo separador)
Fornecedores35240+100+8+ upstreams
Estratégias de encaminhamento193-tierretry / priorityround-robin / fill-first
Fallback por níveis com UIYesYesManual policyMulti-account
Compressão de tokens12 engines · 15–95%RTK / Headroom / CavemanNo built-in pipelineHTTP compression

Snapshot do README público e da documentação oficial; confirme as fontes ligadas antes de decisões de compra ou implementação.

Implementação

9 formas suportadas de executar o OmniRoute.

Instale-o num portátil, servidor ou telemóvel, ou ligue-se através de um editor e plugin suportados.

npm

Um comando em qualquer SO desktop suportado

npm install -g omnirouteAbrir guia (abre num novo separador)

Docker

Imagem multi-arquitetura AMD64 e ARM64

docker run … diegosouzapw/omnirouteAbrir guia (abre num novo separador)

Desktop

Janela nativa e tabuleiro do sistema em Windows, macOS e Linux

npm run electron:buildAbrir guia (abre num novo separador)

ARM

Raspberry Pi, servidores ARM e Apple Silicon

native arm64

Android · Termux

Corre em Android sem root

pkg install nodejs && npx -y omnirouteAbrir guia (abre num novo separador)

PWA

Ecrã inteiro, pronto para offline e instalável a partir do browser

Add to Home ScreenAbrir guia (abre num novo separador)

OpenCode plugin

Plugin nativo de fornecedor para OpenCode

@omniroute/opencode-providerAbrir guia (abre num novo separador)

VS Code

Modelos do OmniRoute no seletor do Copilot Chat

Install OmniCopilotAbrir guia (abre num novo separador)

From source

Explore o código e contribua

npm install && npm run devAbrir guia (abre num novo separador)

Encaminhamento

Escolha uma rota automática.

Use um modo pronto a usar ou combine 19 estratégias em torno do objetivo que importa.

Modelo · fallback ativadoautoBalanced default
Pedido compatível com OpenAI
curl http://localhost:20128/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Write a TypeScript retry helper."}]}'

Routing alias auto selected. Objective: Balanced default. Fallback enabled.

Esgotar a quota da subscrição

Use a quota que já tem antes de tocar em APIs pagas.

priority · fill-first

Distribuir carga

Equilibre o tráfego entre chaves e contas para reduzir a pressão dos rate limits.

weighted · round-robin · p2c · least-used · headroom

Mais barato primeiro

Encaminhe para o destino elegível de menor custo.

cost-optimized

Sensível ao contexto

Mantenha contextos longos em modelos onde cabem e reencaminhe quando necessário.

context-relay · context-optimized · cache-optimized

Aleatório

Distribua o tráfego elegível entre destinos.

random · strict-random

Pontuação adaptativa

Use pontuação com 15 fatores, último bom conhecido e janelas sensíveis a resets.

reset-window · reset-aware · lkgp · auto · fusion · pipeline

Contabilidade dos escalões gratuitos

Capacidade gratuita publicada, sem duplicados.

455 entradas do catálogo são desduplicadas em 40 pools recorrentes; só orçamentos positivos publicados alimentam o número principal.

1.51B

A contabilidade sem duplicados por pool evita que quotas partilhadas sejam contadas mais de uma vez. Os fornecedores sem limite continuam visíveis sem inflacionar o total de tokens. Checked 2026-08-30.

Ver o cálculo (abre num novo separador)
Fornecedores gratuitos para sempre, recorrentes ou sem chave56
  • Mistral1B/month
  • LLM7150M/month
  • Nara150M/month
  • Gemini CLI · forever60M/month
  • Kiro50 credits/month
  • Qoder · foreverFree catalog
  • LongCat · forever50M/day
  • Cerebras1M/day
  • NVIDIA NIM~40 RPM
  • Pollinations · foreverNo key
  • Cloudflare Workers AI · foreverDaily neurons
  • OpenCode Free · foreverNo-auth catalog

Compressão de contexto

Reduza os tokens elegíveis em 15–95%.

Saída de ferramentas, contexto repetido e dados estruturados inchados podem ser comprimidos antes de chegarem ao modelo.

Contexto reduzido a partir de 15–95% em tokens elegíveis

Antes: The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total. Depois: sum all list items where value > 0

  1. Session-Dedup
  2. CCR
  3. Lite
  4. RTK
  5. Responses Tool Output
  6. Headroom
  7. Relevance
  8. Caveman
  9. Aggressive
  10. LLMLingua-2
  11. Ultra
  12. OmniGlyph

A mesma instrução. Menos contexto para pagar.

Antes69 tokens
The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total.
Depois19 tokens
sum all list items where value > 0

Pipeline combinável

  1. Session-Dedup
    Descarte conteúdo já enviado anteriormente na sessão.
  2. CCR
    Arquive blocos grandes e restaure-os a pedido.
  3. Lite
    Aplique uma limpeza conservadora sem perdas.
  4. RTK
    Filtre e desduplique a saída de comandos e ferramentas.
  5. Responses Tool Output
    Compacte payloads de ferramentas da Responses API.
  6. Headroom
    Aplique compactação reversível de dados tabulares e estruturados.
  7. Relevance
    Mantenha as frases mais relevantes para a consulta mais recente.
  8. Caveman
    Use condensação de prosa baseada em regras.
  9. Aggressive
    Aplique uma poda configurada mais forte.
  10. LLMLingua-2
    Use poda semântica segura para código num worker isolado.
  11. Ultra
    Combine fases de alta poupança com salvaguardas de preservação.
  12. OmniGlyph
    Codifique de forma compacta estruturas repetidas elegíveis.

Perfis

Intervalo publicado do perfil~30%x-omniroute-compression: standard

Compressão Standard selecionada. Intervalo publicado ~30%.

Controlos e estilos de saída

  • Perfis nomeados e seletor ativo
  • Compression Studio visual
  • Anthropic Context Editing
  • Regulador adaptativo do orçamento de contexto
  • Cabeçalho \
  • por pedido
  • Ambiente de eval offline
  • Ativação automática por limiar de tokens
  • Terse prose
  • Less code (YAGNI)
  • Terse CJK 文言

Precedência de controlo: cabeçalho do pedido → combo → perfil → política adaptativa → predefinição.

Isolamento de falhas

Isole falhas de fornecedor, ligação e modelo.

Uma chave má não deve matar um fornecedor. Um modelo limitado não deve matar uma ligação.

modelo ⊂ ligação ⊂ fornecedor
Circuit breaker por fornecedorQuando um fornecedor não está saudável, o encaminhamento por combo salta-o até uma sonda half-open ter sucesso.
Cooldown por ligaçãoPonha uma chave ou conta em cooldown enquanto as ligações irmãs continuam a servir.
Bloqueio por modeloBloqueie um modelo com rate limit ou indisponível enquanto os outros modelos da ligação continuam disponíveis.

Controlos de rede

Controlos de encaminhamento de rede e dados locais.

Os âmbitos de proxy controlam o encaminhamento de rede, enquanto o armazenamento local-first mantém os dados operacionais na sua máquina.

Três âmbitos de proxy

Encaminhe globalmente, por fornecedor ou por ligação individual.

  • Global · por fornecedor · por ligação
  • Proxies SOCKS5 e HTTP(S)
  • Integração com marketplace de proxies

Controlos de fingerprint TLS e de cliente

Imite clientes de fornecedores suportados até características selecionadas do transporte.

  • Transporte com suporte JA3/JA4 via wreq-js
  • Perfis de cliente específicos por fornecedor
  • Controlos de saída IPv4 e IPv6

Privado e local-first

Chaves, utilização e histórico ficam no host que controla.

  • SQLite em disco com credenciais encriptadas AES-256-GCM
  • Não é necessária conta OmniRoute
  • Aloje na infraestrutura que escolher
RússiaChinaIrãoCubaTürkiye

Painel local

Configure o OmniRoute sem editar YAML.

Faça a gestão de fornecedores, combos, análises, saúde e custos em localhost:20128/dashboard.

localhost:20128/dashboardDados de exemplo
352fornecedores ligados
90+escalões gratuitos disponíveis
198saudáveis neste exemplo
  • Claude Code · OAuth · ativo
  • Cerebras · gratuito · ativo
  • Groq · exemplo de cooldown
  • NVIDIA NIM · gratuito · ativo

Protocolos de agentes

Exponha o OmniRoute via MCP e A2A.

O OmniRoute pode expor o seu gateway a clientes MCP, redes A2A e agentes de programação na cloud suportados.

Servidor MCP

110 ferramentas em 33 âmbitos sobre transportes stdio e HTTP.

110 ferramentas · 33 âmbitos · stdio / HTTP

claude mcp add omniroute --type http --url http://localhost:20128/api/mcp/stream

Servidor A2A

6 skills para encaminhamento inteligente, quota, descoberta, análise de custos e relatórios de saúde sobre JSON-RPC 2.0.

6 skills · JSON-RPC 2.0 · Agent Card

Agentes na cloud

Ligue fluxos de trabalho suportados do Codex, Cursor, Devin e Jules através de uma única superfície de orquestração.

Codex · Cursor · Devin · Jules

Serviços adicionais

Estenda o gateway.

Serviços incorporados

Execute Bifrost, 9Router ou CLIProxy como sidecars geridos, ou opere um perfil de cluster completo.

O seu conhecimento, em contexto

Ligue o Notion e o Obsidian como fontes de contexto suportadas por MCP.

Guardrails integrados

Verificações de prompt injection, redação opcional de PII e filtros de segurança normalizados sem dependência de um fornecedor.

Objetivos de utilização

Acompanhe sequências, conquistas e poupanças em tempo real a par das análises operacionais.

Da comunidade

Como o OmniRoute é usado e discutido.

Veja o que os programadores estão a construir, perguntar e partilhar no X, Reddit e YouTube.

32 vídeos de 32 canaisVer todos os 32 vídeos da comunidade

Profile picture of Peng
Peng@pengsonal
Link to tweet (opens in a new tab)
one local endpoint for cursor / cline / claude code / copilot 😳 OmniRoute (24.7k★ on GitHub) runs a self-hosted router on your machine so you only need one base URL for all your coding agents. wha…

25 posts from X · 25 Reddit postsVer todas as publicações

Construído em aberto

Atividade do repositório

Veja estrelas, forks, contribuidores e lançamentos a partir do snapshot do GitHub incluído no repositório.

  • 11,169forks
  • 832contribuidores
  • 281lançamentos publicados
  • 8,942PRs integrados
  • 5,072issues fechadas
  • 30,000testes automatizados

Snapshot de 2026-10-16

Discord

Conversa, suporte e roadmap

(abre num novo separador)

Telegram

Notícias e anúncios

(abre num novo separador)

WhatsApp 🌍

Comunidade global

(abre num novo separador)

WhatsApp 🇧🇷

Comunidade Brasil

(abre num novo separador)
Conheça os contribuidores (abre num novo separador)

OmniRoute da Cheaper Inference

Escolha como executa o OmniRoute.

Aloje o OmniRoute, ou comece com a Cheaper Inference para um gateway alojado ordenado por custo.

Experimentar a Cheaper Inference Alojar o OmniRoute (abre num novo separador)