OmniRouteby Cheaper Inference
OmniRoute rejoint Cheaper InferenceDécouvrir Cheaper Inference

Le routeur IA open source n°1

Routez vos requêtes vers 352 fournisseurs via un seul endpoint compatible OpenAI, avec repli automatique.

Essayer Cheaper InferenceAuto-héberger OmniRoute (s'ouvre dans un nouvel onglet)
Compatible OpenAI Gratuit et open source77.2k étoiles (s'ouvre dans un nouvel onglet)

OmniRoute × Cheaper Inference

Combinez le repli automatique et les outils développeur d'OmniRoute avec la marketplace classée par coût de Cheaper Inference. Chaque requête éligible commence par la route fournisseur la moins chère disponible.

97 modèlesPrix public direct comparé au prix Cheaper Inference
Prix publics directs comparés aux prix Cheaper Inference par modèle
ModèlePrix en entréePrix en sortieÉconomiesContexteDétails
gpt-5.6-lunaOpenAI · text$0.20$0.08/ 1M tokens$1.20$0.48/ 1M tokens-60 %1.1M
gpt-5.6-terraOpenAI · text$2.00$0.80/ 1M tokens$12.00$4.80/ 1M tokens-60 %1.1M
gpt-oss-120bOpenAI · text$0.10$0.040483/ 1M tokens$0.50$0.202417/ 1M tokens-59.52 %128K
deepseek-v4.1-flashDeepSeek · text$0.15$0.075/ 1M tokens$0.60$0.30/ 1M tokens-50 %1.0M
gpt-5.6-solOpenAI · text$4.00$2.00/ 1M tokens$20.00$10.00/ 1M tokens-50 %1.1M
glm-4.5Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens-45 %128K
glm-4.6Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens-45 %198K
glm-4.7Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens-45 %128K
Affichage de 8 modèles sur 97
Prix public direct → prix Cheaper Inference · Parcourir tous les modèles · Voir le catalogue en direct (s'ouvre dans un nouvel onglet)Prix vérifiés le 14 oct. 2026, 14:00 UTC. Les tarifs peuvent changer quand les prix amont ou les routes disponibles évoluent.

Contrôles essentiels

Un seul endpoint pour vos fournisseurs configurés.

Core control

Gardez le flux de requêtes

Quand une cible est indisponible ou à court de quota, OmniRoute sélectionne la prochaine cible saine.

Core control

Compressez le contexte éligible

Un pipeline de 12 moteurs réduit le contexte éligible de 15–95%. L'exemple documenté riche en outils l'a réduit de ~89%.

Core control

0 $ pour commencer

90+ offres gratuites et 56 fournisseurs gratuits à vie, récurrents ou sans clé. Aucune carte bancaire requise pour le démarrage rapide sans clé.

Core control

35 intégrations prises en charge

Configurez Claude Code, Codex, Cursor, Cline, Copilot, Antigravity et d'autres clients pris en charge via un seul endpoint.

Core control

Un seul endpoint

Acceptez les requêtes OpenAI, Claude, Gemini et Responses API sur /v1.

Core control

Contrôles opérationnels

Disjoncteurs, identifiants chiffrés, MCP, A2A, mémoire, garde-fous et évals sont livrés avec la passerelle auto-hébergée.

Le catalogue

Tout derrière un seul endpoint.

Un catalogue couvrant chat, médias, recherche, runtimes locaux, agents cloud et intégrations système.

352 fournisseurs

Tous, derrière un seul endpoint local.

L'endpoint unique vers lequel chaque client pointehttp://localhost:20128/v1

14 Search12 Audio-only2 Upstream proxy3 Cloud agent1 System
OpenAIAnthropicGoogleDeepSeekxAIZ.aiMoonshotMiniMaxAlibabaMetaBytedanceAion Labs
25OAuthClaude Code, Codex, Cursor, GitHub Copilot, Kimi Code…
233Clé APIOpenAI, Anthropic, Groq, NVIDIA, Cerebras, Mistral…
35Cookie webChatGPT Web, Claude Web, Gemini Web, Grok Web…
14LocalOllama, LM Studio, vLLM, llama.cpp…
13Sans authentificationOpenCode Free, Felo, Pollinations et d'autres routes sans clé…
Explorer la référence des fournisseurs (opens in a new tab)

Démarrage rapide

Installer, lancer, connecter.

Installez le paquet, lancez la passerelle, puis pointez n'importe quel client compatible OpenAI vers le port 20128.

Catalogue des fournisseurs
352
Stratégies de routage
19
Endpoint local
:20128/v1

Step 1: Installer

Installez le paquet npm omniroute en global.

omniroute: install
$ npm install -g omnirouteadded 1 package

Step 2: Lancer

Lancez l'API et le tableau de bord ensemble sur le port 20128.

omniroute: run
$ omniroute▸ dashboard ✓ http://localhost:20128/dashboard▸ api ...... ✓ serving on :20128

Step 3: Connectez votre outil

Utilisez http://localhost:20128/v1 ; la route auto sans clé fonctionne dès l'installation.

omniroute: connect
$ curl localhost:20128/v1/models✓ models listed

Contrôles de la passerelle

Les contrôles essentiels de la passerelle en un seul processus.

Configurez repli, quota, compression, mémoire, MCP et A2A depuis le tableau de bord local.

Gateway control

Smart Combos

Réglez un modèle sur auto ou créez votre propre combo avec 19 stratégies et un repli par niveaux.

Utilisez un mode prêt à l'emploi ou combinez 19 stratégies autour de l'objectif qui compte.

Gateway control

Mémoire

Mémoire conversationnelle persistante avec rappel par mots-clés FTS5 et vecteurs Qdrant.

Gateway control

Résilience à 3 niveaux

Disjoncteur de fournisseur, refroidissement de connexion et verrouillage de modèle isolent les pannes au plus petit périmètre utile.

Gateway control

Quota gratuit

Comptabilité dédupliquée par pool sur 90+ offres gratuites.

Capacité gratuite publiée, dédupliquée.

Gateway control

Compression

12 moteurs composables pour la sortie des outils, le contexte et le style des réponses.

Réduisez les tokens éligibles de 15–95%.

Gateway control

Serveur MCP

Un serveur intégré exposant 110 outils de passerelle sur 33 périmètres.

110 outils · 33 périmètres · stdio / HTTP

Gateway control

Protocole A2A

Un serveur d'agents JSON-RPC avec 6 compétences.

6 compétences · JSON-RPC 2.0 · Agent Card

Gateway control

Cache sémantique

Une requête répétée peut être servie depuis le cache, et l'en-tête de réponse indique ce que cela a économisé.

X-OmniRoute-Cache: HIT

Compatibilité des clients

Gardez vos outils de codage actuels.

Pointez une CLI ou un éditeur compatible OpenAI vers une seule URL de base locale ; OmniRoute gère les fournisseurs derrière.

Claude Code
Codex CLI
Cursor
Cline
GitHub Copilot
Gemini CLI
OpenCode
Kilo Code
Factory Droid
Continue
Roo Code
Antigravity
Aider
OpenClaw
Goose
Grok Build
Windsurf
Devin CLI

http://localhost:20128/v1

request.sh
curl http://localhost:20128/v1/chat/completions \
  -H "Authorization: Bearer $OMNIROUTE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Hello"}]}'

OmniCopilot

Utilisez les modèles OmniRoute dans Copilot Chat.

OmniCopilot ajoute les modèles OmniRoute au sélecteur de modèles existant.

Marketplace officiel

Fonctionne avec VS Code stable et Insiders. Installez depuis le Marketplace ou la vue Extensions.

Registre Open VSX

Pour Cursor, Windsurf, VSCodium, Theia, code-server, Gitpod et d'autres éditeurs compatibles.

Aucun abonnement Copilot requis

Les modèles des fournisseurs peuvent passer par OmniRoute dans Copilot Chat sans router l'inférence via un abonnement Copilot.

VS Code Marketplace (s'ouvre dans un nouvel onglet)Open VSX Registry (s'ouvre dans un nouvel onglet)OmniCopilot source (s'ouvre dans un nouvel onglet)

Pannes courantes

Pourquoi OmniRoute

Voyez quel contrôle répond à chaque panne courante.

Without routing
With OmniRoute
Le quota expire sans être utilisé
Suivez et consommez le crédit que vous avez déjà
Les limites de débit vous coupent en pleine tâche
Repli automatique à 4 niveaux en quelques millisecondes
La sortie des outils dévore les tokens
Compression à 12 moteurs, 15–95% sur le contenu éligible
Les API payantes s'additionnent
Le routage optimisé par coût peut choisir la cible éligible la moins chère
Chaque outil exige sa propre configuration
Un endpoint et un tableau de bord
Un fournisseur est inaccessible depuis votre réseau
Périmètres de proxy et contrôles d'empreinte client
Une clé morte casse un fournisseur
Disjoncteur, refroidissement et verrouillage isolent la panne
Une équipe partage un seul abonnement
Pools de clés et quotas équitables
Vous devez garder le contrôle local des données de routage
Stockage local d'abord avec identifiants chiffrés
Aucune visibilité sur les dépenses ou la santé
Analyses d'usage, de quota, d'économies et de latence

Instantané de la documentation

Comparatif des passerelles

Capacités vérifiées dans la documentation des projets liés le 2026-08-30.

CapacitéOmniRoute (s'ouvre dans un nouvel onglet)9Router (s'ouvre dans un nouvel onglet)LiteLLM (s'ouvre dans un nouvel onglet)CLIProxyAPI (s'ouvre dans un nouvel onglet)
Fournisseurs35240+100+8+ upstreams
Stratégies de routage193-tierretry / priorityround-robin / fill-first
Repli par niveaux avec interfaceYesYesManual policyMulti-account
Compression de tokens12 engines · 15–95%RTK / Headroom / CavemanNo built-in pipelineHTTP compression

Instantané du README public et de la documentation officielle ; vérifiez les sources liées avant tout achat ou déploiement.

Déploiement

9 façons prises en charge d'exécuter OmniRoute.

Installez-le sur un portable, un serveur ou un téléphone, ou connectez-vous via un éditeur et un plugin pris en charge.

npm

Une commande sur tout OS de bureau pris en charge

npm install -g omnirouteOuvrir le guide (s'ouvre dans un nouvel onglet)

Docker

Image multi-arch AMD64 et ARM64

docker run … diegosouzapw/omnirouteOuvrir le guide (s'ouvre dans un nouvel onglet)

Desktop

Fenêtre native et barre système sur Windows, macOS et Linux

npm run electron:buildOuvrir le guide (s'ouvre dans un nouvel onglet)

ARM

Raspberry Pi, serveurs ARM et Apple Silicon

native arm64

Android · Termux

Fonctionne sur Android sans root

pkg install nodejs && npx -y omnirouteOuvrir le guide (s'ouvre dans un nouvel onglet)

PWA

Plein écran, hors ligne et installable depuis un navigateur

Add to Home ScreenOuvrir le guide (s'ouvre dans un nouvel onglet)

OpenCode plugin

Plugin fournisseur natif pour OpenCode

@omniroute/opencode-providerOuvrir le guide (s'ouvre dans un nouvel onglet)

VS Code

Modèles OmniRoute dans le sélecteur de Copilot Chat

Install OmniCopilotOuvrir le guide (s'ouvre dans un nouvel onglet)

From source

Bidouillez et contribuez

npm install && npm run devOuvrir le guide (s'ouvre dans un nouvel onglet)

Routage

Choisissez une route auto.

Utilisez un mode prêt à l'emploi ou combinez 19 stratégies autour de l'objectif qui compte.

Modèle · repli activéautoBalanced default
Requête compatible OpenAI
curl http://localhost:20128/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Write a TypeScript retry helper."}]}'

Routing alias auto selected. Objective: Balanced default. Fallback enabled.

Épuiser le quota d'abonnement

Utilisez le quota que vous avez déjà avant de toucher aux API payantes.

priority · fill-first

Répartir la charge

Équilibrez le trafic entre clés et comptes pour réduire la pression des limites de débit.

weighted · round-robin · p2c · least-used · headroom

Le moins cher d'abord

Routez vers la cible éligible la moins coûteuse.

cost-optimized

Sensible au contexte

Gardez les longs contextes sur des modèles adaptés, puis relayez au besoin.

context-relay · context-optimized · cache-optimized

Aléatoire

Répartissez le trafic éligible entre les cibles.

random · strict-random

Score adaptatif

Utilisez un score à 15 facteurs, le dernier état connu et des fenêtres tenant compte des réinitialisations.

reset-window · reset-aware · lkgp · auto · fusion · pipeline

Comptabilité des offres gratuites

Capacité gratuite publiée, dédupliquée.

455 entrées du catalogue sont dédupliquées en 40 pools récurrents ; seuls les budgets positifs publiés alimentent le chiffre principal.

1.51B

La comptabilité dédupliquée par pool évite de compter plusieurs fois les quotas partagés. Les fournisseurs sans plafond restent visibles sans gonfler le total de tokens. Checked 2026-08-30.

Voir le calcul (s'ouvre dans un nouvel onglet)
Fournisseurs gratuits à vie, récurrents ou sans clé56
  • Mistral1B/month
  • LLM7150M/month
  • Nara150M/month
  • Gemini CLI · forever60M/month
  • Kiro50 credits/month
  • Qoder · foreverFree catalog
  • LongCat · forever50M/day
  • Cerebras1M/day
  • NVIDIA NIM~40 RPM
  • Pollinations · foreverNo key
  • Cloudflare Workers AI · foreverDaily neurons
  • OpenCode Free · foreverNo-auth catalog

Compression du contexte

Réduisez les tokens éligibles de 15–95%.

La sortie des outils, le contexte répété et les données structurées volumineuses peuvent être compressés avant d'atteindre le modèle.

Contexte réduit de 15–95% sur les tokens éligibles

Avant: The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total. Après: sum all list items where value > 0

  1. Session-Dedup
  2. CCR
  3. Lite
  4. RTK
  5. Responses Tool Output
  6. Headroom
  7. Relevance
  8. Caveman
  9. Aggressive
  10. LLMLingua-2
  11. Ultra
  12. OmniGlyph

Même instruction. Moins de contexte à payer.

Avant69 tokens
The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total.
Après19 tokens
sum all list items where value > 0

Pipeline composable

  1. Session-Dedup
    Supprime le contenu déjà envoyé plus tôt dans la session.
  2. CCR
    Archive les gros blocs et les restaure à la demande.
  3. Lite
    Applique un nettoyage sans perte prudent.
  4. RTK
    Filtre et déduplique la sortie des commandes et des outils.
  5. Responses Tool Output
    Compacte les charges utiles d'outils de la Responses API.
  6. Headroom
    Applique une compaction réversible des données tabulaires et structurées.
  7. Relevance
    Conserve les phrases les plus pertinentes pour la dernière requête.
  8. Caveman
    Condense la prose selon des règles.
  9. Aggressive
    Applique un élagage configuré plus fort.
  10. LLMLingua-2
    Élagage sémantique sûr pour le code dans un worker isolé.
  11. Ultra
    Combine des étapes à fortes économies avec des garde-fous de préservation.
  12. OmniGlyph
    Encode de façon compacte les structures répétées éligibles.

Profils

Plage publiée du profil~30%x-omniroute-compression: standard

Compression Standard sélectionnée. Plage publiée ~30%.

Contrôles et styles de sortie

  • Profils nommés et sélecteur actif
  • Compression Studio visuel
  • Anthropic Context Editing
  • Réglage adaptatif du budget de contexte
  • En-tête \
  • par requête
  • Harnais d'évaluation hors ligne
  • Déclenchement automatique par seuil de tokens
  • Terse prose
  • Less code (YAGNI)
  • Terse CJK 文言

Priorité des contrôles : en-tête de requête → combo → profil → politique adaptative → défaut.

Isolation des pannes

Isolez les pannes de fournisseur, de connexion et de modèle.

Une mauvaise clé ne doit pas tuer un fournisseur. Un modèle limité ne doit pas tuer une connexion.

modèle ⊂ connexion ⊂ fournisseur
Disjoncteur de fournisseurQuand un fournisseur est défaillant, le routage combo le saute jusqu'à ce qu'une sonde semi-ouverte réussisse.
Refroidissement de connexionMettez une clé ou un compte en pause pendant que les connexions voisines continuent de servir.
Verrouillage de modèleVerrouillez un modèle limité ou indisponible pendant que les autres modèles de la connexion restent disponibles.

Contrôles réseau

Routage réseau et contrôle des données locales.

Les périmètres de proxy contrôlent le routage réseau tandis que le stockage local d'abord garde les données opérationnelles sur votre machine.

Trois périmètres de proxy

Routez globalement, par fournisseur ou par connexion individuelle.

  • Global · par fournisseur · par connexion
  • Proxys SOCKS5 et HTTP(S)
  • Intégration d'une marketplace de proxys

Contrôles d'empreinte TLS et client

Imitez les clients des fournisseurs pris en charge jusqu'à certaines caractéristiques de transport.

  • Transport compatible JA3/JA4 via wreq-js
  • Profils client propres à chaque fournisseur
  • Contrôles de sortie IPv4 et IPv6

Privé et local d'abord

Clés, usage et historique restent sur l'hôte que vous contrôlez.

  • SQLite sur disque avec identifiants chiffrés AES-256-GCM
  • Aucun compte OmniRoute requis
  • Auto-hébergez sur l'infrastructure de votre choix
RussieChineIranCubaTürkiye

Tableau de bord local

Configurez OmniRoute sans éditer de YAML.

Gérez fournisseurs, combos, analyses, santé et coûts sur localhost:20128/dashboard.

localhost:20128/dashboardDonnées d'exemple
352fournisseurs connectés
90+offres gratuites disponibles
198sains dans cet exemple
  • Claude Code · OAuth · actif
  • Cerebras · gratuit · actif
  • Groq · exemple de refroidissement
  • NVIDIA NIM · gratuit · actif

Protocoles d'agents

Exposez OmniRoute via MCP et A2A.

OmniRoute peut exposer sa passerelle aux clients MCP, aux réseaux A2A et aux agents de codage cloud pris en charge.

Serveur MCP

110 outils sur 33 périmètres, via les transports stdio et HTTP.

110 outils · 33 périmètres · stdio / HTTP

claude mcp add omniroute --type http --url http://localhost:20128/api/mcp/stream

Serveur A2A

6 compétences pour le routage intelligent, le quota, la découverte, l'analyse des coûts et l'état de santé via JSON-RPC 2.0.

6 compétences · JSON-RPC 2.0 · Agent Card

Agents cloud

Connectez les workflows Codex, Cursor, Devin et Jules pris en charge via une seule surface d'orchestration.

Codex · Cursor · Devin · Jules

Services supplémentaires

Étendez la passerelle.

Services embarqués

Exécutez Bifrost, 9Router ou CLIProxy comme sidecars gérés, ou opérez un profil cluster complet.

Vos connaissances, en contexte

Connectez Notion et Obsidian comme sources de contexte via MCP.

Garde-fous intégrés

Détection d'injection de prompt, masquage optionnel des données personnelles et filtres de sécurité normalisés sans dépendance à un fournisseur.

Objectifs d'usage

Suivez séries, succès et économies en direct à côté des analyses opérationnelles.

Par la communauté

Comment OmniRoute est utilisé et discuté.

Voyez ce que les développeurs construisent, demandent et partagent sur X, Reddit et YouTube.

32 vidéos de 32 chaînesVoir les 32 vidéos de la communauté

Profile picture of Peng
Peng@pengsonal
Link to tweet (opens in a new tab)
one local endpoint for cursor / cline / claude code / copilot 😳 OmniRoute (24.7k★ on GitHub) runs a self-hosted router on your machine so you only need one base URL for all your coding agents. wha…

25 posts from X · 25 Reddit postsVoir tous les posts

Développé au grand jour

Activité du dépôt

Voyez les étoiles, forks, contributeurs et versions depuis l'instantané GitHub versionné.

  • 11,169forks
  • 832contributeurs
  • 281versions publiées
  • 8,942PR fusionnées
  • 5,072issues fermées
  • 30,000tests automatisés

Instantané du 2026-10-16

Discord

Discussion, support et roadmap

(s'ouvre dans un nouvel onglet)

Telegram

Actualités et annonces

(s'ouvre dans un nouvel onglet)

WhatsApp 🌍

Communauté mondiale

(s'ouvre dans un nouvel onglet)

WhatsApp 🇧🇷

Comunidade Brasil

(s'ouvre dans un nouvel onglet)
Rencontrer les contributeurs (s'ouvre dans un nouvel onglet)

OmniRoute par Cheaper Inference

Choisissez comment exécuter OmniRoute.

Auto-hébergez OmniRoute, ou commencez avec Cheaper Inference pour une passerelle hébergée classée par coût.

Essayer Cheaper Inference Auto-héberger OmniRoute (s'ouvre dans un nouvel onglet)