OmniRoute / API повърхност

Една крайна точка, повече от чат.

Чат, embeddings, reranking, изображения, видео, музика, реч, OCR, файлове и партиди, във формата на заявки, който клиентът ви вече използва.

Вижте форматите Опитайте Cheaper Inference Назад към общия преглед

Формати по мрежата

Запазете формата на заявките, който клиентът ви вече изпраща.

Един процес приема няколко формата, така че инструмент, изграден за SDK на един доставчик, се нуждае само от смяна на базовия URL.

OpenAI

Chat Completions, embeddings, изображения, аудио и файлове, без промяна.

/v1/chat/completions

Anthropic

Форматът Messages, включително броене на токени.

/v1/messages

OpenAI Responses

Формата на Responses API, с компактиране на изхода от инструменти.

/v1/responses

Gemini

generateContent и списъкът с модели на Gemini.

/v1beta/models

Ollama

Директна замяна за инструменти, използващи локалния Ollama API.

/v1/api/chat

Rerank and Jina

Cohere/Voyage reranking плюс Jina classify и segment.

/v1/rerank

Крайни точки

Повече от chat completions.

Групирани по това, което искате да направите, а не по доставчика, който случайно го обслужва.

Чат и съобщения

Три формата на заявки стигат до един и същ рутер, така че клиентът запазва формата, който вече използва.

POST/v1/chat/completionsOpenAI Chat Completions, стрийминг или буфериран
POST/v1/messagesAnthropic Messages
POST/v1/responsesOpenAI Responses
POST/v1/messages/count_tokensПребройте токените, преди да ги изхарчите

Embeddings, търсене и подреждане

Retrieval половината на RAG стека зад същата крайна точка и същия ключ.

POST/v1/embeddingsТекстови и мултимодални embeddings
POST/v1/rerankReranking, съвместим с Cohere и Voyage
POST/v1/searchАбстракция за уеб търсене през доставчици
POST/v1/classifyКласификация на текст с Jina
POST/v1/segmentСегментиране на съдържание с Jina
POST/v1/web/fetchИзвличане на четимо съдържание от страница

Изображения, видео и музика

Генерирането минава през същия fallback и отчитане на разходите като текста.

POST/v1/images/generationsСинтез на изображения
POST/v1/images/editsРедактиране и inpainting
POST/v1/videos/generationsГенериране на видео
POST/v1/music/generationsСинтез на музика

Аудио и документи

Реч в двете посоки, плюс OCR за сканирани изходни материали.

POST/v1/audio/transcriptionsРеч към текст
POST/v1/audio/translationsТранскрипция с превод
POST/v1/audio/speechТекст към реч
POST/v1/ocrOCR на документи

Файлове и партиди

Качете веднъж, после изпълнявайте работата асинхронно, вместо да държите връзка отворена.

POST/v1/filesКачване на файл
GET/v1/files/{id}/contentСтрийминг на съдържанието на файл
POST/v1/batchesСъздаване на партидна задача
GET/v1/batches/{id}Проверка на статуса на партида
POST/v1/batches/{id}/cancelОтказ на изпълняваща се партида

Откриване и контрол

Всичко, което клиентът трябва, за да избере модел и да остане в бюджета.

GET/v1/modelsКаталог с модели, групиран по доставчик
GET/v1/quotas/checkПредварителна проверка на оставащата квота
POST/v1/moderationsМодерация на съдържание
GET/v1/wsWebSocket upgrade за стрийминг клиенти

Агентни протоколи

MCP сървър с 110 инструмента и A2A agent card, обслужвани от същия процес.

GET/api/mcp/streamMCP през HTTP, 33 обхвата
GET/api/mcp/sseMCP през Server-Sent Events
POST/a2aJSON-RPC 2.0, 6 агентни умения
GET/.well-known/agent.jsonПублична agent card

Хедъри

Всеки отговор казва как е бил обслужен.

Маршрутизирането не е черна кутия: решението, цената и компресията, породили отговора, се връщат заедно с него.

Хедъри на отговора

X-OmniRoute-DecisionСтратегия, псевдоним на доставчика и латентност, обслужили заявката
X-OmniRoute-ProviderПсевдонимът на доставчика, към който реално е маршрутизирано
X-OmniRoute-ModelРазрешеният идентификатор на модела
X-OmniRoute-Latency-MsЛатентност на upstream в милисекунди
X-OmniRoute-Tokens-InБрой входни токени
X-OmniRoute-Tokens-OutБрой изходни токени
X-OmniRoute-Response-CostЦена на този отговор в USD
X-OmniRoute-Cost-SavedСпестени USD при попадение в кеша
X-OmniRoute-CacheHIT или MISS при заявки без стрийминг
X-OmniRoute-CompressionПриложеният режим на компресия и откъде е дошъл
X-OmniRoute-Fallback-AttemptsНаправени fallback скокове, когато има такива
X-OmniRoute-Request-IdКорелационен id за лога на заявките

Хедъри на заявката

x-omniroute-compressionПрезапис на профила за компресия за една заявка
X-OmniRoute-No-CacheПропускане на семантичния кеш
x-omniroute-no-memoryПропускане на инжектирането на памет и умения
X-Session-IdКлюч за афинитет на сесията и отнасяне на разходите
Idempotency-KeyДедупликация на повторена заявка

Прочетете справочника на API