OmniRoute / API सरफ़ेस

एक एंडपॉइंट, चैट से ज़्यादा।

चैट, एम्बेडिंग, रीरैंकिंग, इमेज, वीडियो, म्यूज़िक, स्पीच, OCR, फ़ाइलें और बैच, उसी रिक्वेस्ट फ़ॉर्मैट में जो आपका क्लाइंट पहले से बोलता है।

वायर फ़ॉर्मैट

वही रिक्वेस्ट शेप रखें जो आपका क्लाइंट पहले से भेजता है।

एक प्रोसेस कई फ़ॉर्मैट स्वीकार करता है, इसलिए किसी एक वेंडर के SDK पर बने टूल को सिर्फ़ बेस URL बदलना होता है, और कुछ नहीं।

OpenAI

Chat Completions, एम्बेडिंग, इमेज, ऑडियो और फ़ाइलें, बिना बदलाव।

/v1/chat/completions

Anthropic

Messages वायर फ़ॉर्मैट, टोकन काउंटिंग सहित।

/v1/messages

OpenAI Responses

Responses API का शेप, टूल-आउटपुट कम्पैक्शन के साथ।

/v1/responses

Gemini

generateContent और Gemini मॉडल लिस्टिंग।

/v1beta/models

Ollama

लोकल Ollama API बोलने वाले टूल्स के लिए ड्रॉप-इन।

/v1/api/chat

Rerank and Jina

Cohere/Voyage रीरैंकिंग और Jina classify व segment।

/v1/rerank

एंडपॉइंट

चैट कम्प्लीशन से ज़्यादा।

इस आधार पर ग्रुप किए गए कि आप क्या करना चाहते हैं, न कि कौन सा प्रोवाइडर उसे सर्व करता है।

चैट और मैसेज

तीन रिक्वेस्ट शेप एक ही राउटर तक पहुँचते हैं, इसलिए क्लाइंट अपना मौजूदा फ़ॉर्मैट रख सकता है।

  • POST/v1/chat/completionsOpenAI Chat Completions, स्ट्रीमिंग या बफ़र्ड
  • POST/v1/messagesAnthropic Messages
  • POST/v1/responsesOpenAI Responses
  • POST/v1/messages/count_tokensखर्च करने से पहले टोकन गिनें

एम्बेडिंग, सर्च और रैंकिंग

RAG स्टैक का रिट्रीवल हिस्सा, उसी एंडपॉइंट और उसी की के पीछे।

  • POST/v1/embeddingsटेक्स्ट और मल्टीमोडल एम्बेडिंग
  • POST/v1/rerankCohere और Voyage कम्पैटिबल रीरैंकिंग
  • POST/v1/searchप्रोवाइडर्स में वेब सर्च एब्स्ट्रैक्शन
  • POST/v1/classifyJina टेक्स्ट क्लासिफ़िकेशन
  • POST/v1/segmentJina कंटेंट सेगमेंटेशन
  • POST/v1/web/fetchरीडेबल पेज एक्सट्रैक्शन

इमेज, वीडियो और म्यूज़िक

जनरेशन भी टेक्स्ट जैसे ही फ़ॉलबैक और कॉस्ट अकाउंटिंग से रूट होता है।

  • POST/v1/images/generationsइमेज सिंथेसिस
  • POST/v1/images/editsएडिटिंग और इनपेंटिंग
  • POST/v1/videos/generationsवीडियो जनरेशन
  • POST/v1/music/generationsम्यूज़िक सिंथेसिस

ऑडियो और डॉक्यूमेंट

दोनों दिशाओं में स्पीच, साथ में स्कैन किए सोर्स मटीरियल के लिए OCR।

  • POST/v1/audio/transcriptionsस्पीच टू टेक्स्ट
  • POST/v1/audio/translationsट्रांसक्रिप्शन का अनुवाद
  • POST/v1/audio/speechटेक्स्ट टू स्पीच
  • POST/v1/ocrडॉक्यूमेंट OCR

फ़ाइलें और बैच

एक बार अपलोड करें, फिर कनेक्शन खुला रखने के बजाय काम असिंक्रोनस चलाएँ।

  • POST/v1/filesफ़ाइल अपलोड करें
  • GET/v1/files/{id}/contentफ़ाइल कंटेंट स्ट्रीम करके वापस पाएँ
  • POST/v1/batchesबैच जॉब बनाएँ
  • GET/v1/batches/{id}बैच स्टेटस पोल करें
  • POST/v1/batches/{id}/cancelचल रहा बैच कैंसल करें

डिस्कवरी और कंट्रोल

मॉडल चुनने और बजट में रहने के लिए क्लाइंट को जो भी चाहिए।

  • GET/v1/modelsप्रोवाइडर-ग्रुप्ड मॉडल कैटलॉग
  • GET/v1/quotas/checkबचा कोटा पहले से वैलिडेट करें
  • POST/v1/moderationsकंटेंट मॉडरेशन
  • GET/v1/wsस्ट्रीमिंग क्लाइंट्स के लिए WebSocket अपग्रेड

एजेंट प्रोटोकॉल

110 टूल वाला MCP सर्वर और एक A2A एजेंट कार्ड, उसी प्रोसेस से सर्व किया गया।

  • GET/api/mcp/streamHTTP पर MCP, 33 स्कोप
  • GET/api/mcp/sseServer-Sent Events पर MCP
  • POST/a2aJSON-RPC 2.0, 6 एजेंट स्किल्स
  • GET/.well-known/agent.jsonपब्लिक एजेंट कार्ड

हेडर

हर रिस्पॉन्स बताता है कि वह कैसे सर्व हुआ।

रूटिंग ब्लैक बॉक्स नहीं है: रिस्पॉन्स बनाने वाला निर्णय, कॉस्ट और कम्प्रेशन सब उसके साथ वापस आते हैं।

रिस्पॉन्स हेडर

  • X-OmniRoute-Decisionरिक्वेस्ट सर्व करने वाली स्ट्रैटेजी, प्रोवाइडर एलियास और लेटेंसी
  • X-OmniRoute-Providerजिस प्रोवाइडर एलियास पर वास्तव में रूट हुआ
  • X-OmniRoute-Modelरिज़ॉल्व किया गया मॉडल आइडेंटिफ़ायर
  • X-OmniRoute-Latency-Msअपस्ट्रीम लेटेंसी मिलीसेकंड में
  • X-OmniRoute-Tokens-Inइनपुट टोकन काउंट
  • X-OmniRoute-Tokens-Outआउटपुट टोकन काउंट
  • X-OmniRoute-Response-Costइस रिस्पॉन्स की USD कॉस्ट
  • X-OmniRoute-Cost-Savedकैश हिट पर बचा USD
  • X-OmniRoute-Cacheनॉन-स्ट्रीमिंग रिक्वेस्ट पर HIT या MISS
  • X-OmniRoute-Compressionलागू कम्प्रेशन मोड और वह कहाँ से आया
  • X-OmniRoute-Fallback-Attemptsलिए गए फ़ॉलबैक हॉप, अगर कोई हुए
  • X-OmniRoute-Request-Idरिक्वेस्ट लॉग के लिए कोरिलेशन id

रिक्वेस्ट हेडर

  • x-omniroute-compressionएक रिक्वेस्ट के लिए कम्प्रेशन प्रोफ़ाइल ओवरराइड करें
  • X-OmniRoute-No-Cacheसिमैंटिक कैश बायपास करें
  • x-omniroute-no-memoryमेमोरी और स्किल्स इंजेक्शन छोड़ें
  • X-Session-Idसेशन एफ़िनिटी और कॉस्ट एट्रिब्यूशन की
  • Idempotency-Keyरीट्राई की गई रिक्वेस्ट डीड्यूप्लिकेट करें
API रेफ़रेंस पढ़ें (नए टैब में खुलता है)

OmniRoute by Cheaper Inference

चुनें कि आप OmniRoute कैसे चलाएँगे।

OmniRoute सेल्फ़-होस्ट करें, या होस्टेड कॉस्ट-रैंक्ड गेटवे के लिए Cheaper Inference इस्तेमाल करें।