OmniRoute / Funzionalità del prodotto

Controlli che puoi ispezionare e ospitare in autonomia.

Esamina i controlli del gateway, i servizi della piattaforma e la dashboard locale senza scambiare un elenco di funzionalità per una promessa di hosting.

Controlli principali

Cosa include il gateway self-hosted.

Controllo principale

Richieste sempre in movimento

Quando un target non è disponibile o ha esaurito la quota, OmniRoute seleziona il target sano successivo.

Controllo principale

Comprimi il contesto idoneo

Una pipeline a 12 motori riduce il contesto idoneo del 15–95%. Nell'esempio documentato con uso intensivo di tool la riduzione è stata del ~89%.

Controllo principale

Si parte da $0

90+ tier gratuiti e 56 provider gratuiti per sempre, ricorrenti o senza chiave. Nessuna carta di credito per il quick start senza chiave.

Controllo principale

35 integrazioni supportate

Configura Claude Code, Codex, Cursor, Cline, Copilot, Antigravity e altri client supportati tramite un unico endpoint.

Controllo principale

Un solo endpoint

Accetta richieste OpenAI, Claude, Gemini e Responses API su /v1.

Controllo principale

Controlli operativi

Circuit breaker, credenziali cifrate, MCP, A2A, memoria, guardrail ed eval sono inclusi nel gateway self-hosted.

Funzionalità

Configura il percorso della richiesta da un'unica dashboard.

Configura fallback, quota, compressione, memoria, MCP e A2A dalla dashboard locale.

Controllo del gateway

Smart Combos

Imposta un modello su auto o crea la tua combo con 19 strategie e fallback a livelli.

Usa una modalità pronta o combina 19 strategie attorno all'obiettivo che conta.

Controllo del gateway

Memoria

Memoria conversazionale persistente con ricerca per parole chiave FTS5 e recupero vettoriale Qdrant.

Controllo del gateway

Resilienza a 3 livelli

Breaker del provider, cooldown della connessione e blocco del modello isolano i guasti nell'ambito più piccolo utile.

Controllo del gateway

Quota gratuita

Conteggio deduplicato per pool su 90+ tier gratuiti.

Capacità pubblicata dei tier gratuiti, deduplicata.

Controllo del gateway

Compressione

12 motori componibili per output dei tool, contesto e stile delle risposte.

Riduci i token idonei del 15–95%.

Controllo del gateway

Server MCP

Un server integrato che espone 110 tool del gateway in 33 scope.

110 tool · 33 scope · stdio / HTTP

Controllo del gateway

Protocollo A2A

Un server agente JSON-RPC con 6 skill.

6 skill · JSON-RPC 2.0 · Agent Card

Controllo del gateway

Cache semantica

Una richiesta ripetuta può essere servita dalla cache e l'header di risposta indica quanto è stato risparmiato.

X-OmniRoute-Cache: HIT

Servizi della piattaforma

Estendi il gateway locale.

Servizi integrati

Esegui Bifrost, 9Router o CLIProxy come sidecar gestiti, oppure opera con un profilo cluster completo.

La tua conoscenza, nel contesto

Collega Notion e Obsidian come sorgenti di contesto basate su MCP.

Guardrail integrati

Controlli anti prompt injection, redazione PII opt-in e filtri di sicurezza normalizzati senza vincolo a un provider.

Obiettivi di utilizzo

Monitora streak, traguardi e risparmi in tempo reale accanto alle analisi operative.

Dashboard

Esamina la configurazione e viste operative di esempio.

I valori qui sotto sono dati di esempio. La tua dashboard locale riflette i tuoi provider, richieste e costi.

localhost:20128/dashboardDati di esempio
352provider connessi
90+tier gratuiti disponibili
198sani in questo esempio
  • Claude Code · OAuth · attivo
  • Cerebras · gratuito · attivo
  • Groq · esempio di cooldown
  • NVIDIA NIM · gratuito · attivo

OmniRoute di Cheaper Inference

Scegli come eseguire OmniRoute.

Fai self-hosting di OmniRoute oppure usa Cheaper Inference per un gateway hosted ordinato per costo.