OmniRoute / Uwezo wa bidhaa

Vidhibiti unavyoweza kukagua na kujihudumia.

Kagua vidhibiti vya gateway, huduma za jukwaa na dashibodi ya ndani bila kuchukulia orodha ya vipengele kama ahadi ya kuhudumiwa.

Vidhibiti vya msingi

Kinachokuja na gateway inayojihudumia.

Kidhibiti cha msingi

Weka maombi yakisonga

Lengo linapokosekana au kuishiwa kiwango, OmniRoute huchagua lengo linalofuata lenye afya.

Kidhibiti cha msingi

Bana muktadha stahiki

Mfumo wa injini 12 hupunguza muktadha stahiki kwa 15–95%. Mfano ulioandikwa wenye zana nyingi uliupunguza kwa ~89%.

Kidhibiti cha msingi

Anza kwa $0

Viwango vya bure 90+ na watoa huduma 56 wa bure daima, wanaojirudia au wasiohitaji key. Hakuna kadi ya mkopo inayohitajika kwa kuanza haraka bila key.

Kidhibiti cha msingi

Miunganisho 35 inayotumika

Sanidi Claude Code, Codex, Cursor, Cline, Copilot, Antigravity na wateja wengine wanaotumika kupitia endpoint moja.

Kidhibiti cha msingi

Endpoint moja

Pokea maombi ya OpenAI, Claude, Gemini na Responses API kwenye /v1.

Kidhibiti cha msingi

Vidhibiti vya uendeshaji

Circuit breakers, vitambulisho vilivyosimbwa, MCP, A2A, kumbukumbu, guardrails na evals huja na gateway inayojihudumia.

Uwezo

Sanidi njia ya ombi kutoka dashibodi moja.

Sanidi fallback, kiwango, ubanaji, kumbukumbu, MCP na A2A kutoka dashibodi ya ndani.

Kidhibiti cha gateway

Smart Combos

Weka modeli kuwa auto au unda combo yako kwa mikakati 19 na fallback ya ngazi.

Tumia hali iliyo tayari au unganisha mikakati 19 kuzunguka lengo muhimu.

Kidhibiti cha gateway

Kumbukumbu

Kumbukumbu ya mazungumzo inayodumu, ikiwa na maneno muhimu ya FTS5 na urejeshaji wa vekta wa Qdrant.

Kidhibiti cha gateway

Ustahimilivu wa tabaka 3

Breaker ya mtoa huduma, cooldown ya muunganisho na lockout ya modeli hutenga hitilafu katika upeo mdogo unaofaa.

Kidhibiti cha gateway

Kiwango cha bure

Uhesabuji usiorudufu kwenye viwango vya bure 90+.

Uwezo wa viwango vya bure uliochapishwa, bila marudio.

Kidhibiti cha gateway

Ubanaji

Injini 12 zinazoweza kuunganishwa kwa matokeo ya zana, muktadha na mtindo wa majibu.

Punguza tokeni stahiki kwa 15–95%.

Kidhibiti cha gateway

Seva ya MCP

Seva iliyojengwa ndani inayotoa zana 110 za gateway katika upeo 33.

zana 110 · upeo 33 · stdio / HTTP

Kidhibiti cha gateway

Itifaki ya A2A

Seva ya ajenti ya JSON-RPC yenye ujuzi 6.

ujuzi 6 · JSON-RPC 2.0 · Agent Card

Kidhibiti cha gateway

Cache ya kisemantiki

Ombi linalorudiwa linaweza kurudi kutoka cache, na header ya majibu huripoti kilichookolewa.

X-OmniRoute-Cache: HIT

Huduma za jukwaa

Panua gateway ya ndani.

Huduma zilizopachikwa

Endesha Bifrost, 9Router au CLIProxy kama sidecars zinazosimamiwa, au endesha profaili kamili ya cluster.

Maarifa yako, katika muktadha

Unganisha Notion na Obsidian kama vyanzo vya muktadha vinavyotegemea MCP.

Guardrails zilizojengwa ndani

Ukaguzi wa prompt-injection, uondoaji wa PII wa hiari na vichujio vya usalama vilivyosawazishwa bila kufungwa kwa mtoa huduma.

Malengo ya matumizi

Fuatilia mfululizo, mafanikio na akiba ya moja kwa moja pamoja na uchanganuzi wa uendeshaji.

Dashibodi

Kagua usanidi na mionekano ya mfano ya uendeshaji.

Thamani zilizo hapa chini ni data ya mfano. Dashibodi yako ya ndani huonyesha watoa huduma, maombi na gharama zako.

localhost:20128/dashboardData ya mfano
352watoa huduma waliounganishwa
90+viwango vya bure vinavyopatikana
198wenye afya katika mfano huu
  • Claude Code · OAuth · hai
  • Cerebras · bure · hai
  • Groq · mfano wa cooldown
  • NVIDIA NIM · bure · hai

OmniRoute kutoka Cheaper Inference

Chagua jinsi unavyoendesha OmniRoute.

Jihudumie OmniRoute, au tumia Cheaper Inference kwa gateway inayohudumiwa na kupangwa kwa gharama.