OmniRoute / प्रोडक्ट क्षमताएँ

ऐसे कंट्रोल जिन्हें आप जाँच और सेल्फ़-होस्ट कर सकते हैं।

गेटवे कंट्रोल, प्लैटफ़ॉर्म सेवाएँ और लोकल डैशबोर्ड देखें, फ़ीचर लिस्ट को होस्टिंग का वादा माने बिना।

मुख्य कंट्रोल

सेल्फ़-होस्टेड गेटवे के साथ क्या आता है।

मुख्य कंट्रोल

रिक्वेस्ट चलती रहें

जब कोई टारगेट उपलब्ध न हो या उसका कोटा खत्म हो जाए, OmniRoute अगला हेल्दी टारगेट चुन लेता है।

मुख्य कंट्रोल

योग्य कॉन्टेक्स्ट कम्प्रेस करें

12-इंजन पाइपलाइन योग्य कॉन्टेक्स्ट को 15–95% तक कम करती है। डॉक्यूमेंटेड टूल-हेवी उदाहरण में यह ~89% कम हुआ।

मुख्य कंट्रोल

शुरू करने के लिए $0

90+ फ़्री टियर और 56 रिकरिंग या की-लेस फ़्री-फ़ॉरएवर प्रोवाइडर। की-लेस क्विक स्टार्ट के लिए क्रेडिट कार्ड की ज़रूरत नहीं।

मुख्य कंट्रोल

35 सपोर्टेड इंटीग्रेशन

Claude Code, Codex, Cursor, Cline, Copilot, Antigravity और अन्य सपोर्टेड क्लाइंट एक एंडपॉइंट से कॉन्फ़िगर करें।

मुख्य कंट्रोल

एक एंडपॉइंट

/v1 पर OpenAI, Claude, Gemini और Responses API रिक्वेस्ट स्वीकार करें।

मुख्य कंट्रोल

ऑपरेशनल कंट्रोल

सर्किट ब्रेकर, एन्क्रिप्टेड क्रेडेंशियल, MCP, A2A, मेमोरी, गार्डरेल और इवैल सेल्फ़-होस्टेड गेटवे के साथ आते हैं।

क्षमताएँ

रिक्वेस्ट पाथ एक डैशबोर्ड से कॉन्फ़िगर करें।

फ़ॉलबैक, कोटा, कम्प्रेशन, मेमोरी, MCP और A2A लोकल डैशबोर्ड से कॉन्फ़िगर करें।

गेटवे कंट्रोल

स्मार्ट कॉम्बो

मॉडल को auto पर सेट करें या 19 स्ट्रैटेजी और टियर्ड फ़ॉलबैक के साथ अपना कॉम्बो बनाएँ।

कोई रेडीमेड मोड इस्तेमाल करें या अपने ज़रूरी लक्ष्य के आसपास 19 स्ट्रैटेजी जोड़ें।

गेटवे कंट्रोल

मेमोरी

FTS5 कीवर्ड और Qdrant वेक्टर रिकॉल के साथ परसिस्टेंट कन्वर्सेशनल मेमोरी।

गेटवे कंट्रोल

3-लेयर रेज़िलिएंस

प्रोवाइडर ब्रेकर, कनेक्शन कूलडाउन और मॉडल लॉकआउट फ़ेल्योर को सबसे छोटे उपयोगी स्कोप में अलग रखते हैं।

गेटवे कंट्रोल

फ़्री कोटा

90+ फ़्री टियर में पूल-डीड्यूप्ड अकाउंटिंग।

प्रकाशित फ़्री-टियर क्षमता, डीड्यूप्लिकेटेड।

गेटवे कंट्रोल

कम्प्रेशन

टूल आउटपुट, कॉन्टेक्स्ट और रिस्पॉन्स स्टाइल के लिए 12 कम्पोज़ेबल इंजन।

योग्य टोकन 15–95% तक कम करें।

गेटवे कंट्रोल

MCP सर्वर

एक बिल्ट-इन सर्वर जो 33 स्कोप में 110 गेटवे टूल एक्सपोज़ करता है।

110 टूल · 33 स्कोप · stdio / HTTP

गेटवे कंट्रोल

A2A प्रोटोकॉल

6 स्किल्स वाला JSON-RPC एजेंट सर्वर।

6 स्किल्स · JSON-RPC 2.0 · Agent Card

गेटवे कंट्रोल

सिमैंटिक कैश

दोबारा की गई रिक्वेस्ट कैश से लौट सकती है, और रिस्पॉन्स हेडर बताता है कि इससे क्या बचा।

X-OmniRoute-Cache: HIT

प्लैटफ़ॉर्म सेवाएँ

लोकल गेटवे को बढ़ाएँ।

एम्बेडेड सेवाएँ

Bifrost, 9Router या CLIProxy को मैनेज्ड साइडकार के रूप में चलाएँ, या पूरा क्लस्टर प्रोफ़ाइल ऑपरेट करें।

आपका नॉलेज, कॉन्टेक्स्ट में

Notion और Obsidian को MCP-आधारित कॉन्टेक्स्ट सोर्स के रूप में कनेक्ट करें।

बिल्ट-इन गार्डरेल

प्रॉम्प्ट-इंजेक्शन जाँच, ऑप्ट-इन PII रिडैक्शन और नॉर्मलाइज़्ड सेफ़्टी फ़िल्टर, बिना प्रोवाइडर लॉक-इन।

यूसेज लक्ष्य

ऑपरेशनल एनालिटिक्स के साथ स्ट्रीक, अचीवमेंट और लाइव बचत ट्रैक करें।

डैशबोर्ड

कॉन्फ़िगरेशन और उदाहरण ऑपरेटिंग व्यू देखें।

नीचे के मान उदाहरण डेटा हैं। आपका लोकल डैशबोर्ड आपके अपने प्रोवाइडर, रिक्वेस्ट और कॉस्ट दिखाता है।

localhost:20128/dashboardउदाहरण डेटा
352प्रोवाइडर कनेक्टेड
90+फ़्री टियर उपलब्ध
198इस उदाहरण में हेल्दी
  • Claude Code · OAuth · लाइव
  • Cerebras · फ़्री · लाइव
  • Groq · कूलडाउन उदाहरण
  • NVIDIA NIM · फ़्री · लाइव

OmniRoute by Cheaper Inference

चुनें कि आप OmniRoute कैसे चलाएँगे।

OmniRoute सेल्फ़-होस्ट करें, या होस्टेड कॉस्ट-रैंक्ड गेटवे के लिए Cheaper Inference इस्तेमाल करें।