OmniRoute / Keupayaan produk

Kawalan yang boleh anda semak dan hos sendiri.

Semak kawalan gateway, perkhidmatan platform dan papan pemuka lokal tanpa menganggap senarai ciri sebagai janji pengehosan.

Kawalan teras

Apa yang disertakan bersama gateway hos sendiri.

Kawalan teras

Pastikan permintaan terus berjalan

Apabila sasaran tidak tersedia atau kuotanya habis, OmniRoute memilih sasaran sihat yang seterusnya.

Kawalan teras

Mampatkan konteks yang layak

Saluran 12 enjin mengurangkan konteks yang layak sebanyak 15–95%. Contoh berat alat yang didokumenkan mengurangkannya sebanyak ~89%.

Kawalan teras

$0 untuk bermula

90+ tier percuma dan 56 pembekal percuma selamanya yang berulang atau tanpa kunci. Tiada kad kredit diperlukan untuk mula pantas tanpa kunci.

Kawalan teras

35 integrasi disokong

Konfigurasi Claude Code, Codex, Cursor, Cline, Copilot, Antigravity dan klien lain yang disokong melalui satu endpoint.

Kawalan teras

Satu endpoint

Terima permintaan OpenAI, Claude, Gemini dan Responses API di /v1.

Kawalan teras

Kawalan operasi

Pemutus litar, kelayakan disulitkan, MCP, A2A, memori, guardrail dan eval disertakan bersama gateway hos sendiri.

Keupayaan

Konfigurasi laluan permintaan dari satu papan pemuka.

Konfigurasi fallback, kuota, pemampatan, memori, MCP dan A2A dari papan pemuka lokal.

Kawalan gateway

Kombo Pintar

Tetapkan model kepada auto atau bina kombo sendiri dengan 19 strategi dan fallback bertingkat.

Gunakan mod sedia ada atau gabungkan 19 strategi mengikut matlamat yang penting.

Kawalan gateway

Memori

Memori perbualan berterusan dengan kata kunci FTS5 dan ingatan semula vektor Qdrant.

Kawalan gateway

Ketahanan 3 lapisan

Pemutus pembekal, cooldown sambungan dan sekatan model mengasingkan kegagalan pada skop terkecil yang berguna.

Kawalan gateway

Kuota percuma

Perakaunan tanpa pendua kolam merentas 90+ tier percuma.

Kapasiti tier percuma yang diterbitkan, tanpa pendua.

Kawalan gateway

Pemampatan

12 enjin boleh gabung untuk output alat, konteks dan gaya respons.

Kurangkan token yang layak sebanyak 15–95%.

Kawalan gateway

Pelayan MCP

Pelayan terbina dalam yang mendedahkan 110 alat gateway merentas 33 skop.

110 alat · 33 skop · stdio / HTTP

Kawalan gateway

Protokol A2A

Pelayan ejen JSON-RPC dengan 6 kemahiran.

6 kemahiran · JSON-RPC 2.0 · Agent Card

Kawalan gateway

Cache semantik

Permintaan berulang boleh dijawab dari cache, dan header respons melaporkan apa yang dijimatkan.

X-OmniRoute-Cache: HIT

Perkhidmatan platform

Lanjutkan gateway lokal.

Perkhidmatan terbenam

Jalankan Bifrost, 9Router atau CLIProxy sebagai sidecar terurus, atau kendalikan profil kluster penuh.

Pengetahuan anda, dalam konteks

Sambungkan Notion dan Obsidian sebagai sumber konteks disokong MCP.

Guardrail terbina dalam

Semakan suntikan prompt, penyuntingan PII pilihan dan penapis keselamatan ternormal tanpa terikat pada pembekal.

Matlamat penggunaan

Jejak streak, pencapaian dan penjimatan langsung bersama analitik operasi.

Papan pemuka

Semak konfigurasi dan contoh paparan operasi.

Nilai di bawah ialah data contoh. Papan pemuka lokal anda mencerminkan pembekal, permintaan dan kos anda sendiri.

localhost:20128/dashboardData contoh
352pembekal disambungkan
90+tier percuma tersedia
198sihat dalam contoh ini
  • Claude Code · OAuth · aktif
  • Cerebras · percuma · aktif
  • Groq · contoh cooldown
  • NVIDIA NIM · percuma · aktif

OmniRoute oleh Cheaper Inference

Pilih cara anda menjalankan OmniRoute.

Hos sendiri OmniRoute, atau gunakan Cheaper Inference untuk gateway terhos yang disusun mengikut kos.