OmniRoute / API سرفیس

ایک اینڈ پوائنٹ، چیٹ سے بڑھ کر۔

چیٹ، ایمبیڈنگز، ری رینکنگ، امیجز، ویڈیو، میوزک، اسپیچ، OCR، فائلز اور بیچز، اسی درخواستی فارمیٹ میں جو آپ کا کلائنٹ پہلے سے بولتا ہے۔

فارمیٹس دیکھیں Cheaper Inference آزمائیں جائزے پر واپس

وائر فارمیٹس

وہی درخواستی شکل رکھیں جو آپ کا کلائنٹ پہلے سے بھیجتا ہے۔

ایک پروسیس کئی فارمیٹس قبول کرتا ہے، اس لیے کسی ایک وینڈر کے SDK پر بنے ٹول کو صرف بیس URL بدلنا پڑتا ہے، اور کچھ نہیں۔

OpenAI

Chat Completions، ایمبیڈنگز، امیجز، آڈیو اور فائلز، بلا تبدیلی۔

/v1/chat/completions

Anthropic

Messages وائر فارمیٹ، ٹوکن کاؤنٹنگ سمیت۔

/v1/messages

OpenAI Responses

Responses API شکل، ٹول آؤٹ پٹ کمپیکشن کے ساتھ۔

/v1/responses

Gemini

generateContent اور Gemini ماڈل لسٹنگ۔

/v1beta/models

Ollama

لوکل Ollama API بولنے والے ٹولز کے لیے ڈراپ-ان۔

/v1/api/chat

Rerank and Jina

Cohere/Voyage ری رینکنگ کے ساتھ Jina classify اور segment۔

/v1/rerank

اینڈ پوائنٹس

چیٹ کمپلیشنز سے بڑھ کر۔

اس لحاظ سے گروپ شدہ کہ آپ کیا کرنا چاہتے ہیں، نہ کہ کون سا پرووائیڈر اسے سرو کرتا ہے۔

چیٹ اور میسجز

تین درخواستی شکلیں ایک ہی راؤٹر تک پہنچتی ہیں، اس لیے کلائنٹ اپنا موجودہ فارمیٹ برقرار رکھتا ہے۔

POST/v1/chat/completionsOpenAI Chat Completions، اسٹریمنگ یا بفرڈ
POST/v1/messagesAnthropic Messages
POST/v1/responsesOpenAI Responses
POST/v1/messages/count_tokensخرچ کرنے سے پہلے ٹوکنز گنیں

ایمبیڈنگز، سرچ اور رینکنگ

RAG اسٹیک کا ریٹریول حصہ، اسی اینڈ پوائنٹ اور اسی کلید کے پیچھے۔

POST/v1/embeddingsٹیکسٹ اور ملٹی موڈل ایمبیڈنگز
POST/v1/rerankCohere اور Voyage ہم آہنگ ری رینکنگ
POST/v1/searchپرووائیڈرز پر ویب سرچ ایبسٹریکشن
POST/v1/classifyJina ٹیکسٹ کلاسیفیکیشن
POST/v1/segmentJina مواد سیگمنٹیشن
POST/v1/web/fetchپڑھنے کے قابل صفحہ نکالنا

امیج، ویڈیو اور میوزک

جنریشن اسی فال بیک اور لاگت کے حساب سے گزرتی ہے جس سے ٹیکسٹ گزرتا ہے۔

POST/v1/images/generationsامیج سنتھیسس
POST/v1/images/editsایڈیٹنگ اور ان پینٹنگ
POST/v1/videos/generationsویڈیو جنریشن
POST/v1/music/generationsمیوزک سنتھیسس

آڈیو اور دستاویزات

دونوں سمتوں میں اسپیچ، ساتھ اسکین شدہ مواد کے لیے OCR۔

POST/v1/audio/transcriptionsاسپیچ سے ٹیکسٹ
POST/v1/audio/translationsترجمہ شدہ ٹرانسکرپشن
POST/v1/audio/speechٹیکسٹ سے اسپیچ
POST/v1/ocrدستاویز OCR

فائلز اور بیچز

ایک بار اپلوڈ کریں، پھر کنکشن کھلا رکھنے کے بجائے کام غیر ہم وقت چلائیں۔

POST/v1/filesفائل اپلوڈ کریں
GET/v1/files/{id}/contentفائل کا مواد واپس اسٹریم کریں
POST/v1/batchesبیچ جاب بنائیں
GET/v1/batches/{id}بیچ اسٹیٹس پول کریں
POST/v1/batches/{id}/cancelچلتا ہوا بیچ منسوخ کریں

ڈسکوری اور کنٹرول

وہ سب کچھ جو کلائنٹ کو ماڈل چننے اور بجٹ میں رہنے کے لیے درکار ہے۔

GET/v1/modelsپرووائیڈر کے لحاظ سے ماڈل کیٹلاگ
GET/v1/quotas/checkبقیہ کوٹا پہلے سے جانچیں
POST/v1/moderationsکانٹینٹ ماڈریشن
GET/v1/wsاسٹریمنگ کلائنٹس کے لیے WebSocket اپ گریڈ

ایجنٹ پروٹوکولز

110 ٹولز والا MCP سرور اور ایک A2A ایجنٹ کارڈ، اسی پروسیس سے سرو کیا گیا۔

GET/api/mcp/streamHTTP پر MCP، 33 اسکوپس
GET/api/mcp/sseServer-Sent Events پر MCP
POST/a2aJSON-RPC 2.0، 6 ایجنٹ اسکلز
GET/.well-known/agent.jsonعوامی ایجنٹ کارڈ

ہیڈرز

ہر رسپانس بتاتا ہے کہ وہ کیسے سرو ہوا۔

روٹنگ کوئی بلیک باکس نہیں: فیصلہ، لاگت اور کمپریشن جس نے رسپانس بنایا، سب اس کے ساتھ واپس آتے ہیں۔

رسپانس ہیڈرز

X-OmniRoute-Decisionحکمت عملی، پرووائیڈر عرف اور لیٹنسی جس نے درخواست سرو کی
X-OmniRoute-Providerوہ پرووائیڈر عرف جس پر واقعی روٹ ہوا
X-OmniRoute-Modelحل شدہ ماڈل شناخت کنندہ
X-OmniRoute-Latency-Msاپ اسٹریم لیٹنسی ملی سیکنڈز میں
X-OmniRoute-Tokens-Inان پٹ ٹوکن تعداد
X-OmniRoute-Tokens-Outآؤٹ پٹ ٹوکن تعداد
X-OmniRoute-Response-Costاس رسپانس کی USD لاگت
X-OmniRoute-Cost-Savedکیش ہٹ پر بچی USD
X-OmniRoute-Cacheنان اسٹریمنگ درخواستوں پر HIT یا MISS
X-OmniRoute-Compressionلاگو کمپریشن موڈ اور اس کا ماخذ
X-OmniRoute-Fallback-Attemptsلیے گئے فال بیک ہاپس، اگر کوئی ہوئے
X-OmniRoute-Request-Idدرخواست لاگ کے لیے کوریلیشن id

درخواست ہیڈرز

x-omniroute-compressionایک درخواست کے لیے کمپریشن پروفائل اووررائیڈ کریں
X-OmniRoute-No-Cacheسیمانٹک کیش بائی پاس کریں
x-omniroute-no-memoryمیموری اور اسکلز انجیکشن چھوڑ دیں
X-Session-Idسیشن ایفینیٹی اور لاگت انتساب کی کلید
Idempotency-Keyدوبارہ کی گئی درخواست ڈیڈوپلیکیٹ کریں

API ریفرنس پڑھیں