OmniRoute / Schopnosti produktu

Mechanismy, které můžete prozkoumat a self-hostovat.

Projděte si mechanismy gateway, platformní služby a lokální dashboard, aniž byste seznam funkcí brali jako příslib hostingu.

Základní mechanismy

Co je součástí self-hostované gateway.

Základní mechanismus

Požadavky se nezastaví

Když je cíl nedostupný nebo mu došla kvóta, OmniRoute vybere další zdravý cíl.

Základní mechanismus

Komprese vhodného kontextu

Pipeline s 12 enginy zmenší vhodný kontext o 15–95%. Dokumentovaný příklad s velkým podílem nástrojů ho zmenšil o ~89%.

Základní mechanismus

Začněte za 0 $

90+ free tierů a 56 opakovaně bezplatných nebo bezklíčových poskytovatelů zdarma navždy. Bezklíčový rychlý start nevyžaduje platební kartu.

Základní mechanismus

35 podporovaných integrací

Nastavte Claude Code, Codex, Cursor, Cline, Copilot, Antigravity a další podporované klienty přes jeden endpoint.

Základní mechanismus

Jeden endpoint

Přijímá požadavky OpenAI, Claude, Gemini a Responses API na /v1.

Základní mechanismus

Provozní mechanismy

Circuit breakery, šifrované přihlašovací údaje, MCP, A2A, paměť, guardraily a evaly jsou součástí self-hostované gateway.

Schopnosti

Nastavte cestu požadavku z jednoho dashboardu.

Fallback, kvóty, kompresi, paměť, MCP a A2A nastavíte z lokálního dashboardu.

Mechanismus gateway

Smart Combos

Nastavte model na auto nebo si sestavte vlastní combo s 19 strategiemi a víceúrovňovým fallbackem.

Použijte hotový režim nebo zkombinujte 19 strategií podle cíle, na kterém vám záleží.

Mechanismus gateway

Paměť

Trvalá konverzační paměť s vyhledáváním klíčových slov FTS5 a vektorovým vybavováním přes Qdrant.

Mechanismus gateway

3-vrstvá odolnost

Breaker poskytovatele, cooldown připojení a lockout modelu izolují selhání v nejmenším užitečném rozsahu.

Mechanismus gateway

Bezplatná kvóta

Deduplikované účtování napříč 90+ free tiery.

Publikovaná kapacita free tierů, bez duplicit.

Mechanismus gateway

Komprese

12 skládatelných enginů pro výstup nástrojů, kontext i styl odpovědi.

Snižte počet vhodných tokenů o 15–95%.

Mechanismus gateway

MCP server

Vestavěný server zpřístupňuje 110 nástrojů gateway v 33 rozsazích.

110 nástrojů · 33 rozsahů · stdio / HTTP

Mechanismus gateway

Protokol A2A

Agentní server JSON-RPC s 6 dovednostmi.

6 dovedností · JSON-RPC 2.0 · Agent Card

Mechanismus gateway

Sémantická cache

Opakovaný požadavek se může vrátit z cache a hlavička odpovědi uvede, co to ušetřilo.

X-OmniRoute-Cache: HIT

Platformní služby

Rozšiřte lokální gateway.

Vestavěné služby

Spouštějte Bifrost, 9Router nebo CLIProxy jako spravované sidecary, nebo provozujte plný clusterový profil.

Vaše znalosti v kontextu

Připojte Notion a Obsidian jako zdroje kontextu přes MCP.

Vestavěné guardraily

Kontroly prompt injection, volitelná redakce PII a normalizované bezpečnostní filtry bez závislosti na poskytovateli.

Cíle využití

Sledujte série, úspěchy a živé úspory vedle provozní analytiky.

Dashboard

Prohlédněte si konfiguraci a ukázkové provozní pohledy.

Hodnoty níže jsou ukázková data. Váš lokální dashboard odráží vaše vlastní poskytovatele, požadavky a náklady.

localhost:20128/dashboardUkázková data
352připojených poskytovatelů
90+dostupných free tierů
198zdravých v tomto příkladu
  • Claude Code · OAuth · živě
  • Cerebras · zdarma · živě
  • Groq · příklad cooldownu
  • NVIDIA NIM · zdarma · živě

OmniRoute od Cheaper Inference

Vyberte si, jak OmniRoute provozovat.

Provozujte OmniRoute u sebe, nebo použijte Cheaper Inference, hostovanou gateway řazenou podle ceny.