OmniRoute / ప్రొడక్ట్ సామర్థ్యాలు

మీరు పరిశీలించి సెల్ఫ్-హోస్ట్ చేయగల కంట్రోల్స్.

ఫీచర్ లిస్ట్‌ను హోస్టింగ్ వాగ్దానంగా భావించకుండా గేట్‌వే కంట్రోల్స్, ప్లాట్‌ఫారం సర్వీసులు మరియు లోకల్ డాష్‌బోర్డ్‌ను సమీక్షించండి.

సామర్థ్యాలు సమీక్షించండి Cheaper Inference ప్రయత్నించండి ఓవర్‌వ్యూకు తిరిగి వెళ్లండి

ప్రధాన కంట్రోల్స్

సెల్ఫ్-హోస్టెడ్ గేట్‌వేతో ఏం వస్తుంది.

ప్రధాన కంట్రోల్

రిక్వెస్ట్‌లు ఆగకుండా ఉంచండి

ఒక టార్గెట్ అందుబాటులో లేకపోతే లేదా కోటా అయిపోతే, OmniRoute తదుపరి ఆరోగ్యకరమైన టార్గెట్‌ను ఎంచుకుంటుంది.

ప్రధాన కంట్రోల్

అర్హ కాంటెక్స్ట్‌ను కంప్రెస్ చేయండి

12-ఇంజిన్ పైప్‌లైన్ అర్హ కాంటెక్స్ట్‌ను 15–95% తగ్గిస్తుంది. డాక్యుమెంట్ చేసిన టూల్-హెవీ ఉదాహరణలో ~89% తగ్గింది.

ప్రధాన కంట్రోల్

$0 తో ప్రారంభం

90+ ఫ్రీ టైర్లు మరియు 56 రికరింగ్ లేదా కీలెస్ ఫ్రీ-ఫరెవర్ ప్రొవైడర్లు. కీలెస్ క్విక్ స్టార్ట్‌కు క్రెడిట్ కార్డ్ అవసరం లేదు.

ప్రధాన కంట్రోల్

35 సపోర్టెడ్ ఇంటిగ్రేషన్లు

Claude Code, Codex, Cursor, Cline, Copilot, Antigravity మరియు ఇతర సపోర్టెడ్ క్లయింట్లను ఒకే ఎండ్‌పాయింట్ ద్వారా కాన్ఫిగర్ చేయండి.

ప్రధాన కంట్రోల్

ఒకే ఎండ్‌పాయింట్

OpenAI, Claude, Gemini మరియు Responses API రిక్వెస్ట్‌లను /v1 లో స్వీకరించండి.

ప్రధాన కంట్రోల్

ఆపరేషనల్ కంట్రోల్స్

సర్క్యూట్ బ్రేకర్లు, ఎన్‌క్రిప్టెడ్ క్రెడెన్షియల్స్, MCP, A2A, మెమరీ, గార్డ్‌రెయిల్స్ మరియు ఈవాల్స్ సెల్ఫ్-హోస్టెడ్ గేట్‌వేతో వస్తాయి.

సామర్థ్యాలు

రిక్వెస్ట్ పాత్‌ను ఒకే డాష్‌బోర్డ్ నుండి కాన్ఫిగర్ చేయండి.

ఫాల్‌బ్యాక్, కోటా, కంప్రెషన్, మెమరీ, MCP మరియు A2A ను లోకల్ డాష్‌బోర్డ్ నుండి కాన్ఫిగర్ చేయండి.

గేట్‌వే కంట్రోల్

స్మార్ట్ కాంబోలు

మోడల్‌ను auto కు సెట్ చేయండి లేదా 19 స్ట్రాటజీలు మరియు టైర్డ్ ఫాల్‌బ్యాక్‌తో మీ సొంత కాంబో నిర్మించండి.

రెడీమేడ్ మోడ్ వాడండి లేదా మీకు ముఖ్యమైన లక్ష్యం చుట్టూ 19 స్ట్రాటజీలను కలపండి.

గేట్‌వే కంట్రోల్

మెమరీ

FTS5 కీవర్డ్ మరియు Qdrant వెక్టర్ రీకాల్‌తో పర్సిస్టెంట్ సంభాషణ మెమరీ.

గేట్‌వే కంట్రోల్

3-లేయర్ రెసిలియన్స్

ప్రొవైడర్ బ్రేకర్, కనెక్షన్ కూల్‌డౌన్ మరియు మోడల్ లాకౌట్ వైఫల్యాలను అతి చిన్న ఉపయోగకర పరిధిలో ఐసొలేట్ చేస్తాయి.

గేట్‌వే కంట్రోల్

ఫ్రీ కోటా

90+ ఫ్రీ టైర్లలో పూల్-డీడ్యూప్ చేసిన అకౌంటింగ్.

ప్రకటించిన ఫ్రీ-టైర్ కెపాసిటీ, డీడ్యూప్లికేట్ చేసినది.

గేట్‌వే కంట్రోల్

కంప్రెషన్

టూల్ అవుట్‌పుట్, కాంటెక్స్ట్ మరియు రెస్పాన్స్ స్టైల్ కోసం 12 కంపోజబుల్ ఇంజిన్లు.

అర్హ టోకెన్లను 15–95% తగ్గించండి.

గేట్‌వే కంట్రోల్

MCP సర్వర్

33 స్కోప్‌లలో 110 గేట్‌వే టూల్స్‌ను అందించే బిల్ట్-ఇన్ సర్వర్.

110 టూల్స్ · 33 స్కోప్‌లు · stdio / HTTP

గేట్‌వే కంట్రోల్

A2A ప్రోటోకాల్

6 స్కిల్స్‌తో JSON-RPC ఏజెంట్ సర్వర్.

6 స్కిల్స్ · JSON-RPC 2.0 · Agent Card

గేట్‌వే కంట్రోల్

సెమాంటిక్ కాష్

పునరావృత రిక్వెస్ట్ కాష్ నుండి తిరిగి రావచ్చు, రెస్పాన్స్ హెడర్ ఎంత ఆదా అయిందో తెలియజేస్తుంది.

X-OmniRoute-Cache: HIT

ప్లాట్‌ఫారం సర్వీసులు

లోకల్ గేట్‌వేను విస్తరించండి.

ఎంబెడెడ్ సర్వీసులు

Bifrost, 9Router లేదా CLIProxy ను మేనేజ్డ్ సైడ్‌కార్లుగా రన్ చేయండి, లేదా పూర్తి క్లస్టర్ ప్రొఫైల్ నడపండి.

మీ నాలెడ్జ్, కాంటెక్స్ట్‌లో

Notion మరియు Obsidian ను MCP-ఆధారిత కాంటెక్స్ట్ సోర్స్‌లుగా కనెక్ట్ చేయండి.

బిల్ట్-ఇన్ గార్డ్‌రెయిల్స్

ప్రాంప్ట్-ఇంజెక్షన్ చెక్‌లు, ఆప్ట్-ఇన్ PII రిడాక్షన్ మరియు ప్రొవైడర్ లాక్-ఇన్ లేని నార్మలైజ్డ్ సేఫ్టీ ఫిల్టర్లు.

వినియోగ లక్ష్యాలు

ఆపరేషనల్ అనలిటిక్స్‌తో పాటు స్ట్రీక్‌లు, అచీవ్‌మెంట్లు మరియు లైవ్ ఆదాను ట్రాక్ చేయండి.

డాష్‌బోర్డ్

కాన్ఫిగరేషన్ మరియు ఉదాహరణ ఆపరేటింగ్ వ్యూలను పరిశీలించండి.

కింది విలువలు ఉదాహరణ డేటా. మీ లోకల్ డాష్‌బోర్డ్ మీ సొంత ప్రొవైడర్లు, రిక్వెస్ట్‌లు మరియు ఖర్చులను చూపుతుంది.

localhost:20128/dashboardఉదాహరణ డేటా

352ప్రొవైడర్లు కనెక్ట్ అయ్యాయి

90+ఫ్రీ టైర్లు అందుబాటులో

198ఈ ఉదాహరణలో హెల్తీ

Claude Code · OAuth · లైవ్
Cerebras · ఫ్రీ · లైవ్
Groq · కూల్‌డౌన్ ఉదాహరణ
NVIDIA NIM · ఫ్రీ · లైవ్

Cheaper Inference నుండి OmniRoute

OmniRoute ఎలా రన్ చేయాలో ఎంచుకోండి.

OmniRoute సెల్ఫ్-హోస్ట్ చేయండి, లేదా హోస్టెడ్ కాస్ట్-ర్యాంక్డ్ గేట్‌వే కోసం Cheaper Inference వాడండి.

Cheaper Inference ప్రయత్నించండి OmniRoute సెల్ఫ్-హోస్ట్ చేయండి GitHub లో చూడండి