OmniRoute / Produktfunksjoner

Kontroller du kan inspisere og selvhoste.

Gå gjennom gateway-kontrollene, plattformtjenestene og det lokale dashbordet uten å lese en funksjonsliste som et hosting-løfte.

Kjernekontroller

Det som følger med den selvhostede gatewayen.

Kjernekontroll

Hold forespørslene i gang

Når et mål er utilgjengelig eller uten kvote, velger OmniRoute neste friske mål.

Kjernekontroll

Komprimer kvalifisert kontekst

En pipeline med 12 motorer reduserer kvalifisert kontekst med 15–95%. Det dokumenterte verktøytunge eksemplet reduserte den med ~89%.

Kjernekontroll

Start for $0

90+ gratisnivåer og 56 gjentakende eller nøkkelløse leverandører som er gratis for alltid. Ingen kredittkort kreves for den nøkkelløse hurtigstarten.

Kjernekontroll

35 støttede integrasjoner

Konfigurer Claude Code, Codex, Cursor, Cline, Copilot, Antigravity og andre støttede klienter gjennom ett endepunkt.

Kjernekontroll

Ett endepunkt

Ta imot OpenAI-, Claude-, Gemini- og Responses API-forespørsler på /v1.

Kjernekontroll

Driftskontroller

Kretsbrytere, krypterte påloggingsdetaljer, MCP, A2A, minne, guardrails og evals følger med den selvhostede gatewayen.

Funksjoner

Konfigurer forespørselsstien fra ett dashbord.

Konfigurer fallback, kvote, komprimering, minne, MCP og A2A fra det lokale dashbordet.

Gateway-kontroll

Smarte komboer

Sett en modell til auto eller bygg din egen kombo med 19 strategier og lagdelt fallback.

Bruk en ferdig modus eller kombiner 19 strategier rundt målet som betyr noe.

Gateway-kontroll

Minne

Vedvarende samtaleminne med FTS5-nøkkelord og Qdrant-vektorgjenkalling.

Gateway-kontroll

Robusthet i 3 lag

Leverandørbryter, tilkoblingsnedkjøling og modellsperre isolerer feil i minste nyttige omfang.

Gateway-kontroll

Gratiskvote

Pool-deduplisert regnskap på tvers av 90+ gratisnivåer.

Publisert gratisnivåkapasitet, deduplisert.

Gateway-kontroll

Komprimering

12 komponerbare motorer for verktøyutdata, kontekst og svarstil.

Reduser kvalifiserte tokens med 15–95%.

Gateway-kontroll

MCP-server

En innebygd server som eksponerer 110 gateway-verktøy på tvers av 33 omfang.

110 verktøy · 33 omfang · stdio / HTTP

Gateway-kontroll

A2A-protokoll

En JSON-RPC-agentserver med 6 ferdigheter.

6 ferdigheter · JSON-RPC 2.0 · Agent Card

Gateway-kontroll

Semantisk cache

En gjentatt forespørsel kan returneres fra cache, og svarheaderen rapporterer hva det sparte.

X-OmniRoute-Cache: HIT

Plattformtjenester

Utvid den lokale gatewayen.

Innebygde tjenester

Kjør Bifrost, 9Router eller CLIProxy som administrerte sidecars, eller drift en full klyngeprofil.

Din kunnskap, i kontekst

Koble til Notion og Obsidian som MCP-baserte kontekstkilder.

Innebygde guardrails

Prompt-injection-sjekker, valgfri PII-maskering og normaliserte sikkerhetsfiltre uten leverandørbinding.

Bruksmål

Spor streaks, prestasjoner og løpende besparelser ved siden av driftsanalysen.

Dashbord

Se konfigurasjon og eksempler på driftsvisninger.

Verdiene nedenfor er eksempeldata. Ditt lokale dashbord viser dine egne leverandører, forespørsler og kostnader.

localhost:20128/dashboardEksempeldata
352leverandører tilkoblet
90+gratisnivåer tilgjengelig
198friske i dette eksemplet
  • Claude Code · OAuth · live
  • Cerebras · gratis · live
  • Groq · eksempel på nedkjøling
  • NVIDIA NIM · gratis · live

OmniRoute fra Cheaper Inference

Velg hvordan du kjører OmniRoute.

Selvhost OmniRoute, eller bruk Cheaper Inference for en hostet, kostnadsrangert gateway.