OmniRoute / API-oppervlak

Eén endpoint, meer dan chat.

Chat, embeddings, reranking, afbeeldingen, video, muziek, spraak, OCR, bestanden en batches, in het verzoekformaat dat je client al spreekt.

Bekijk de formaten Probeer Cheaper Inference Terug naar overzicht

Wireformaten

Houd de verzoekvorm die je client al verstuurt.

Eén proces accepteert meerdere formaten, dus een tool gebouwd op de SDK van één leverancier heeft alleen een andere base-URL nodig.

OpenAI

Chat Completions, embeddings, afbeeldingen, audio en bestanden, ongewijzigd.

/v1/chat/completions

Anthropic

Het Messages-wireformaat, inclusief het tellen van tokens.

/v1/messages

OpenAI Responses

De vorm van de Responses API, met verdichting van tool-output.

/v1/responses

Gemini

generateContent en de Gemini-modellijst.

/v1beta/models

Ollama

Drop-in voor tools die de lokale Ollama API spreken.

/v1/api/chat

Rerank and Jina

Cohere/Voyage-reranking plus Jina classify en segment.

/v1/rerank

Endpoints

Meer dan chat completions.

Gegroepeerd op wat je wilt doen in plaats van op welke provider het toevallig levert.

Chat en berichten

Drie verzoekvormen bereiken dezelfde router, zodat een client het formaat houdt dat hij al spreekt.

POST/v1/chat/completionsOpenAI Chat Completions, streaming of gebufferd
POST/v1/messagesAnthropic Messages
POST/v1/responsesOpenAI Responses
POST/v1/messages/count_tokensTel tokens voordat je ze uitgeeft

Embeddings, zoeken en ranking

De retrieval-kant van een RAG-stack achter hetzelfde endpoint en dezelfde sleutel.

POST/v1/embeddingsTekst- en multimodale embeddings
POST/v1/rerankCohere- en Voyage-compatibele reranking
POST/v1/searchWebzoekabstractie over providers
POST/v1/classifyJina-tekstclassificatie
POST/v1/segmentJina-contentsegmentatie
POST/v1/web/fetchLeesbare pagina-extractie

Afbeelding, video en muziek

Generatie loopt via dezelfde fallback en kostenboekhouding als tekst.

POST/v1/images/generationsAfbeeldingssynthese
POST/v1/images/editsBewerken en inpainting
POST/v1/videos/generationsVideogeneratie
POST/v1/music/generationsMuzieksynthese

Audio en documenten

Spraak in beide richtingen, plus OCR voor gescand bronmateriaal.

POST/v1/audio/transcriptionsSpraak naar tekst
POST/v1/audio/translationsVertalende transcriptie
POST/v1/audio/speechTekst naar spraak
POST/v1/ocrDocument-OCR

Bestanden en batches

Eén keer uploaden en het werk asynchroon uitvoeren in plaats van een verbinding open te houden.

POST/v1/filesEen bestand uploaden
GET/v1/files/{id}/contentBestandsinhoud terugstreamen
POST/v1/batchesEen batchtaak aanmaken
GET/v1/batches/{id}Batchstatus opvragen
POST/v1/batches/{id}/cancelEen lopende batch annuleren

Discovery en controle

Alles wat een client nodig heeft om een model te kiezen en binnen budget te blijven.

GET/v1/modelsModelcatalogus gegroepeerd per provider
GET/v1/quotas/checkResterende quota vooraf valideren
POST/v1/moderationsContentmoderatie
GET/v1/wsWebSocket-upgrade voor streaming-clients

Agent-protocollen

Een MCP-server met 110 tools en een A2A agent card, geleverd door hetzelfde proces.

GET/api/mcp/streamMCP via HTTP, 33 scopes
GET/api/mcp/sseMCP via Server-Sent Events
POST/a2aJSON-RPC 2.0, 6 agent-skills
GET/.well-known/agent.jsonOpenbare agent card

Headers

Elk antwoord vertelt hoe het is geleverd.

Routering is geen black box: de beslissing, de kosten en de compressie achter een antwoord reizen allemaal mee terug.

Response-headers

X-OmniRoute-DecisionStrategie, provideralias en latentie die het verzoek bedienden
X-OmniRoute-ProviderDe provideralias waar daadwerkelijk naar is gerouteerd
X-OmniRoute-ModelDe opgeloste model-identifier
X-OmniRoute-Latency-MsUpstream-latentie in milliseconden
X-OmniRoute-Tokens-InAantal invoertokens
X-OmniRoute-Tokens-OutAantal uitvoertokens
X-OmniRoute-Response-CostKosten van dit antwoord in USD
X-OmniRoute-Cost-SavedVermeden USD bij een cache-hit
X-OmniRoute-CacheHIT of MISS bij niet-streaming verzoeken
X-OmniRoute-CompressionToegepaste compressiemodus en waar die vandaan kwam
X-OmniRoute-Fallback-AttemptsGenomen fallback-hops, als die er waren
X-OmniRoute-Request-IdCorrelatie-id voor het verzoeklog

Request-headers

x-omniroute-compressionOverschrijf het compressieprofiel voor één verzoek
X-OmniRoute-No-CacheOmzeil de semantische cache
x-omniroute-no-memorySla geheugen- en skills-injectie over
X-Session-IdSleutel voor sessieaffiniteit en kostentoewijzing
Idempotency-KeyDedupliceer een opnieuw verzonden verzoek

Lees de API-referentie