OmniRoute / Produktfunktioner

Kontroller du kan granska och självhosta.

Granska gatewaykontrollerna, plattformstjänsterna och den lokala dashboarden utan att läsa en funktionslista som ett hostinglöfte.

Kärnkontroller

Vad som ingår i den självhostade gatewayen.

Kärnkontroll

Håll anropen igång

När ett mål är otillgängligt eller har slut på kvot väljer OmniRoute nästa friska mål.

Kärnkontroll

Komprimera kvalificerad kontext

En pipeline med 12 motorer minskar kvalificerad kontext med 15–95%. Det dokumenterade verktygstunga exemplet minskade den med ~89%.

Kärnkontroll

$0 för att börja

90+ gratisnivåer och 56 återkommande eller nyckelfria leverantörer som är gratis för alltid. Inget kreditkort krävs för den nyckelfria snabbstarten.

Kärnkontroll

35 integrationer som stöds

Konfigurera Claude Code, Codex, Cursor, Cline, Copilot, Antigravity och andra klienter som stöds via en endpoint.

Kärnkontroll

En endpoint

Tar emot OpenAI-, Claude-, Gemini- och Responses API-anrop på /v1.

Kärnkontroll

Driftkontroller

Kretsbrytare, krypterade autentiseringsuppgifter, MCP, A2A, minne, guardrails och evals ingår i den självhostade gatewayen.

Funktioner

Konfigurera anropsvägen från en dashboard.

Konfigurera fallback, kvot, komprimering, minne, MCP och A2A från den lokala dashboarden.

Gatewaykontroll

Smarta combos

Sätt en modell till auto eller bygg din egen combo med 19 strategier och nivåindelad fallback.

Använd ett färdigt läge eller kombinera 19 strategier kring det mål som är viktigt.

Gatewaykontroll

Minne

Beständigt konversationsminne med FTS5-nyckelord och Qdrant-vektorsökning.

Gatewaykontroll

Resiliens i 3 lager

Leverantörsbrytare, anslutningsnedkylning och modellutlåsning isolerar fel på minsta användbara nivå.

Gatewaykontroll

Gratiskvot

Pooldeduplicerad redovisning över 90+ gratisnivåer.

Publicerad gratiskapacitet, deduplicerad.

Gatewaykontroll

Komprimering

12 kombinerbara motorer för verktygsutdata, kontext och svarsstil.

Minska kvalificerade tokens med 15–95%.

Gatewaykontroll

MCP-server

En inbyggd server som exponerar 110 gatewayverktyg över 33 scope.

110 verktyg · 33 scope · stdio / HTTP

Gatewaykontroll

A2A-protokoll

En JSON-RPC-agentserver med 6 skills.

6 skills · JSON-RPC 2.0 · Agent Card

Gatewaykontroll

Semantisk cache

Ett upprepat anrop kan besvaras från cachen, och svarsheadern rapporterar vad det sparade.

X-OmniRoute-Cache: HIT

Plattformstjänster

Utöka den lokala gatewayen.

Inbäddade tjänster

Kör Bifrost, 9Router eller CLIProxy som hanterade sidecars, eller kör en fullständig klusterprofil.

Din kunskap, i kontext

Anslut Notion och Obsidian som MCP-baserade kontextkällor.

Inbyggda guardrails

Kontroller mot promptinjektion, valbar PII-maskering och normaliserade säkerhetsfilter utan leverantörslåsning.

Användningsmål

Följ streaks, prestationer och besparingar i realtid vid sidan av driftanalysen.

Dashboard

Granska konfiguration och exempel på driftvyer.

Värdena nedan är exempeldata. Din lokala dashboard visar dina egna leverantörer, anrop och kostnader.

localhost:20128/dashboardExempeldata
352anslutna leverantörer
90+tillgängliga gratisnivåer
198friska i det här exemplet
  • Claude Code · OAuth · live
  • Cerebras · gratis · live
  • Groq · exempel på nedkylning
  • NVIDIA NIM · gratis · live

OmniRoute från Cheaper Inference

Välj hur du kör OmniRoute.

Självhosta OmniRoute, eller använd Cheaper Inference för en hostad kostnadsrankad gateway.