OmniRoute / Capabilitățile produsului

Controale pe care le poți inspecta și self-hosta.

Examinează controalele gateway-ului, serviciile platformei și dashboard-ul local, fără a trata o listă de funcții ca o promisiune de găzduire.

Controale de bază

Ce vine inclus în gateway-ul self-hosted.

Control de bază

Cererile merg mai departe

Când o țintă este indisponibilă sau fără cotă, OmniRoute alege următoarea țintă funcțională.

Control de bază

Comprimă contextul eligibil

Un pipeline cu 12 motoare reduce contextul eligibil cu 15–95%. Exemplul documentat cu multe tool-uri l-a redus cu ~89%.

Control de bază

Începi cu $0

90+ niveluri gratuite și 56 furnizori gratuiți permanent, recurenți sau fără cheie. Fără card de credit pentru pornirea rapidă fără cheie.

Control de bază

35 integrări suportate

Configurează Claude Code, Codex, Cursor, Cline, Copilot, Antigravity și alți clienți suportați printr-un singur endpoint.

Control de bază

Un singur endpoint

Acceptă cereri OpenAI, Claude, Gemini și Responses API la /v1.

Control de bază

Controale operaționale

Circuit breakers, credențiale criptate, MCP, A2A, memorie, guardrails și evaluări vin incluse în gateway-ul self-hosted.

Capabilități

Configurează calea cererii dintr-un singur dashboard.

Configurează fallback, cotă, compresie, memorie, MCP și A2A din dashboard-ul local.

Control gateway

Combo-uri inteligente

Setează un model pe auto sau construiește propriul combo cu 19 strategii și fallback pe niveluri.

Folosește un mod predefinit sau combină 19 strategii în jurul obiectivului care contează.

Control gateway

Memorie

Memorie conversațională persistentă cu căutare FTS5 pe cuvinte-cheie și recall vectorial Qdrant.

Control gateway

Reziliență pe 3 niveluri

Breaker per furnizor, cooldown per conexiune și blocare per model izolează erorile la cel mai mic nivel util.

Control gateway

Cotă gratuită

Contabilizare deduplicată pe pool-uri pentru 90+ niveluri gratuite.

Capacitate gratuită publicată, deduplicată.

Control gateway

Compresie

12 motoare combinabile pentru output-ul tool-urilor, context și stilul răspunsului.

Reduce tokenii eligibili cu 15–95%.

Control gateway

Server MCP

Un server integrat care expune 110 tool-uri de gateway în 33 scope-uri.

110 tool-uri · 33 scope-uri · stdio / HTTP

Control gateway

Protocol A2A

Un server de agenți JSON-RPC cu 6 skill-uri.

6 skill-uri · JSON-RPC 2.0 · Agent Card

Control gateway

Cache semantic

O cerere repetată poate fi servită din cache, iar header-ul de răspuns arată cât s-a economisit.

X-OmniRoute-Cache: HIT

Servicii de platformă

Extinde gateway-ul local.

Servicii încorporate

Rulează Bifrost, 9Router sau CLIProxy ca sidecar-uri gestionate, sau operează un profil complet de cluster.

Cunoștințele tale, în context

Conectează Notion și Obsidian ca surse de context prin MCP.

Guardrails incluse

Verificări anti prompt-injection, redactare PII opțională și filtre de siguranță normalizate, fără dependență de un furnizor.

Obiective de utilizare

Urmărește serii, realizări și economii în timp real, alături de analizele operaționale.

Dashboard

Inspectează configurația și exemple de vederi operaționale.

Valorile de mai jos sunt date de exemplu. Dashboard-ul tău local reflectă propriii furnizori, cereri și costuri.

localhost:20128/dashboardDate de exemplu
352furnizori conectați
90+niveluri gratuite disponibile
198funcționali în acest exemplu
  • Claude Code · OAuth · live
  • Cerebras · gratuit · live
  • Groq · exemplu cooldown
  • NVIDIA NIM · gratuit · live

OmniRoute by Cheaper Inference

Alege cum rulezi OmniRoute.

Găzduiește OmniRoute pe cont propriu sau folosește Cheaper Inference pentru un gateway găzduit, ordonat după cost.