OmniRoute / Routage et contrôle

Choisissez comment chaque requête circule.

Inspectez les stratégies de routage, la comptabilité des offres gratuites, la compression, l'isolation des pannes et les contrôles réseau.

Inspecter le routage Essayer Cheaper Inference Retour à l'aperçu

Stratégies de routage

Choisissez une route `auto` ou créez la vôtre.

Utilisez un mode prêt à l'emploi ou combinez 19 stratégies autour de l'objectif qui compte.

Modèle · repli activéautoBalanced default

Requête compatible OpenAI

curl http://localhost:20128/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Write a TypeScript retry helper."}]}'

Épuiser le quota d'abonnement

Utilisez le quota que vous avez déjà avant de toucher aux API payantes.

priority · fill-first

Répartir la charge

Équilibrez le trafic entre clés et comptes pour réduire la pression des limites de débit.

weighted · round-robin · p2c · least-used · headroom

Le moins cher d'abord

Routez vers la cible éligible la moins coûteuse.

cost-optimized

Sensible au contexte

Gardez les longs contextes sur des modèles adaptés, puis relayez au besoin.

context-relay · context-optimized · cache-optimized

Aléatoire

Répartissez le trafic éligible entre les cibles.

random · strict-random

Score adaptatif

Utilisez un score à 15 facteurs, le dernier état connu et des fenêtres tenant compte des réinitialisations.

reset-window · reset-aware · lkgp · auto · fusion · pipeline

Comptabilité des offres gratuites

Environ 1.51B tokens publiés chaque mois.

455 entrées du catalogue sont dédupliquées en 40 pools récurrents ; seuls les budgets positifs publiés alimentent le chiffre principal.

1.51B

La comptabilité dédupliquée par pool évite de compter plusieurs fois les quotas partagés. Les fournisseurs sans plafond restent visibles sans gonfler le total de tokens. Checked 2026-08-30.

View the calculation

Fournisseurs gratuits à vie, récurrents ou sans clé56

Mistral1B/month
LLM7150M/month
Nara150M/month
Gemini CLI · forever60M/month
Kiro50 credits/month
Qoder · foreverFree catalog
LongCat · forever50M/day
Cerebras1M/day
NVIDIA NIM~40 RPM
Pollinations · foreverNo key
Cloudflare Workers AI · foreverDaily neurons
OpenCode Free · foreverNo-auth catalog

Compression du contexte

Réduisez les tokens éligibles de 15–95%.

La sortie des outils, le contexte répété et les données structurées volumineuses peuvent être compressés avant d'atteindre le modèle.

Illustrative Ultra profile example from the audited documentation.

Before69 tokens

The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total.

After19 tokens

sum all list items where value > 0

Composable pipeline

Session-Dedup
Supprime le contenu déjà envoyé plus tôt dans la session.
CCR
Archive les gros blocs et les restaure à la demande.
Lite
Applique un nettoyage sans perte prudent.
RTK
Filtre et déduplique la sortie des commandes et des outils.
Responses Tool Output
Compacte les charges utiles d'outils de la Responses API.
Headroom
Applique une compaction réversible des données tabulaires et structurées.
Relevance
Conserve les phrases les plus pertinentes pour la dernière requête.
Caveman
Condense la prose selon des règles.
Aggressive
Applique un élagage configuré plus fort.
LLMLingua-2
Élagage sémantique sûr pour le code dans un worker isolé.
Ultra
Combine des étapes à fortes économies avec des garde-fous de préservation.
OmniGlyph
Encode de façon compacte les structures répétées éligibles.

Profiles

Plage publiée du profil~30%x-omniroute-compression: standard

Controls and output styles

Profils nommés et sélecteur actif
Compression Studio visuel
Anthropic Context Editing
Réglage adaptatif du budget de contexte
En-tête \
par requête
Harnais d'évaluation hors ligne
Déclenchement automatique par seuil de tokens
Terse prose
Less code (YAGNI)
Terse CJK 文言

Priorité des contrôles : en-tête de requête → combo → profil → politique adaptative → défaut.

Isolation des pannes

Isolez les pannes de fournisseur, de connexion et de modèle.

Une mauvaise clé ne doit pas tuer un fournisseur. Un modèle limité ne doit pas tuer une connexion.

modèle ⊂ connexion ⊂ fournisseur

Disjoncteur de fournisseurQuand un fournisseur est défaillant, le routage combo le saute jusqu'à ce qu'une sonde semi-ouverte réussisse.

Refroidissement de connexionMettez une clé ou un compte en pause pendant que les connexions voisines continuent de servir.

Verrouillage de modèleVerrouillez un modèle limité ou indisponible pendant que les autres modèles de la connexion restent disponibles.

Contrôles réseau et données locales

Routage réseau et contrôle des données locales.

Les périmètres de proxy contrôlent le routage réseau tandis que le stockage local d'abord garde les données opérationnelles sur votre machine.

Trois périmètres de proxy

Routez globalement, par fournisseur ou par connexion individuelle.

Global · par fournisseur · par connexion
Proxys SOCKS5 et HTTP(S)
Intégration d'une marketplace de proxys

Contrôles d'empreinte TLS et client

Imitez les clients des fournisseurs pris en charge jusqu'à certaines caractéristiques de transport.

Transport compatible JA3/JA4 via wreq-js
Profils client propres à chaque fournisseur
Contrôles de sortie IPv4 et IPv6

Privé et local d'abord

Clés, usage et historique restent sur l'hôte que vous contrôlez.

SQLite sur disque avec identifiants chiffrés AES-256-GCM
Aucun compte OmniRoute requis
Auto-hébergez sur l'infrastructure de votre choix

RussieChineIranCubaTürkiye