OmniRoute / Produktfunktioner

Kontroller, du kan inspicere og selvhoste.

Gennemgå gateway-kontrollerne, platformtjenesterne og det lokale dashboard uden at behandle en funktionsliste som et hosting-løfte.

Kernekontroller

Hvad der følger med den selvhostede gateway.

Kernekontrol

Hold requests i gang

Når et mål er utilgængeligt eller uden kvote, vælger OmniRoute det næste sunde mål.

Kernekontrol

Komprimer berettiget kontekst

En pipeline med 12 motorer reducerer berettiget kontekst med 15–95%. Det dokumenterede værktøjstunge eksempel reducerede den med ~89%.

Kernekontrol

$0 at starte

90+ gratis niveauer og 56 tilbagevendende eller nøglefri udbydere, der er gratis for altid. Ingen kreditkort til den nøglefri hurtigstart.

Kernekontrol

35 understøttede integrationer

Konfigurer Claude Code, Codex, Cursor, Cline, Copilot, Antigravity og andre understøttede klienter gennem ét endpoint.

Kernekontrol

Ét endpoint

Modtag OpenAI-, Claude-, Gemini- og Responses API-requests på /v1.

Kernekontrol

Driftskontroller

Circuit breakers, krypterede credentials, MCP, A2A, hukommelse, guardrails og evals følger med den selvhostede gateway.

Funktioner

Konfigurer request-stien fra ét dashboard.

Konfigurer fallback, kvote, komprimering, hukommelse, MCP og A2A fra det lokale dashboard.

Gateway-kontrol

Smart Combos

Sæt en model til auto, eller byg din egen combo med 19 strategier og lagdelt fallback.

Brug en færdig tilstand, eller kombiner 19 strategier omkring det mål, der betyder noget.

Gateway-kontrol

Hukommelse

Vedvarende samtalehukommelse med FTS5-nøgleord og Qdrant-vektorgenkaldelse.

Gateway-kontrol

Robusthed i 3 lag

Udbyder-breaker, forbindelsesnedkøling og modellockout isolerer fejl i det mindste nyttige omfang.

Gateway-kontrol

Gratis kvote

Pool-dedupliceret regnskab på tværs af 90+ gratis niveauer.

Publiceret gratis kapacitet, deduplikeret.

Gateway-kontrol

Komprimering

12 kombinerbare motorer til værktøjsoutput, kontekst og svarstil.

Reducer berettigede tokens med 15–95%.

Gateway-kontrol

MCP-server

En indbygget server, der eksponerer 110 gateway-værktøjer på tværs af 33 scopes.

110 værktøjer · 33 scopes · stdio / HTTP

Gateway-kontrol

A2A-protokol

En JSON-RPC-agentserver med 6 skills.

6 skills · JSON-RPC 2.0 · Agent Card

Gateway-kontrol

Semantisk cache

En gentaget request kan besvares fra cachen, og svarheaderen viser, hvad det sparede.

X-OmniRoute-Cache: HIT

Platformtjenester

Udvid den lokale gateway.

Indlejrede tjenester

Kør Bifrost, 9Router eller CLIProxy som administrerede sidecars, eller kør en fuld klusterprofil.

Din viden, i kontekst

Forbind Notion og Obsidian som MCP-baserede kontekstkilder.

Indbyggede guardrails

Tjek for prompt-injection, valgfri PII-maskering og normaliserede sikkerhedsfiltre uden udbyder-lock-in.

Forbrugsmål

Følg streaks, præstationer og løbende besparelser side om side med driftsanalyse.

Dashboard

Inspicér konfiguration og eksempler på driftsvisninger.

Værdierne nedenfor er eksempeldata. Dit lokale dashboard afspejler dine egne udbydere, requests og omkostninger.

localhost:20128/dashboardEksempeldata
352udbydere forbundet
90+gratis niveauer tilgængelige
198sunde i dette eksempel
  • Claude Code · OAuth · live
  • Cerebras · gratis · live
  • Groq · eksempel på nedkøling
  • NVIDIA NIM · gratis · live

OmniRoute fra Cheaper Inference

Vælg, hvordan du kører OmniRoute.

Selvhost OmniRoute, eller brug Cheaper Inference for en hostet, omkostningsrangeret gateway.