OmniRoute / ניתוב ובקרה

בחרו איך כל בקשה נעה.

בחנו אסטרטגיות ניתוב, חשבונאות מסלולים חינמיים, דחיסה, בידוד תקלות ובקרות רשת.

בחינת הניתוב נסו את Cheaper Inference חזרה לסקירה

אסטרטגיות ניתוב

בחרו נתיב `auto` או בנו משלכם.

השתמשו במצב מוכן מראש או שלבו 19 אסטרטגיות סביב המטרה שחשובה לכם.

מודל · fallback מופעלautoBalanced default

בקשה תואמת OpenAI

curl http://localhost:20128/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Write a TypeScript retry helper."}]}'

ניצול מכסת המנוי

השתמשו במכסה שכבר יש לכם לפני שנוגעים ב-API בתשלום.

priority · fill-first

פיזור עומס

אזנו תעבורה בין מפתחות וחשבונות כדי להקל על מגבלות קצב.

weighted · round-robin · p2c · least-used · headroom

הזול קודם

נתבו ליעד הזכאי בעלות הנמוכה ביותר.

cost-optimized

מודע להקשר

שמרו הקשרים ארוכים על מודלים שמתאימים להם, והעבירו הלאה בעת הצורך.

context-relay · context-optimized · cache-optimized

אקראי

פזרו תעבורה זכאית בין היעדים.

random · strict-random

ניקוד אדפטיבי

השתמשו בניקוד של 15 גורמים, last-known-good וחלונות מודעי-איפוס.

reset-window · reset-aware · lkgp · auto · fusion · pipeline

חשבונאות מסלולים חינמיים

בקירוב 1.51B טוקנים מפורסמים בכל חודש.

455 רשומות קטלוג מאוחדות ל-40 מאגרים מתחדשים; רק תקציבים חיוביים שפורסמו נכנסים למספר הראשי.

1.51B

חשבונאות ללא כפילויות בין מאגרים מונעת ספירה כפולה של מכסות משותפות. ספקים ללא תקרה נשארים גלויים בלי לנפח את סך הטוקנים. Checked 2026-08-30.

View the calculation

ספקים חינמיים לתמיד, מתחדשים או ללא מפתח56

Mistral1B/month
LLM7150M/month
Nara150M/month
Gemini CLI · forever60M/month
Kiro50 credits/month
Qoder · foreverFree catalog
LongCat · forever50M/day
Cerebras1M/day
NVIDIA NIM~40 RPM
Pollinations · foreverNo key
Cloudflare Workers AI · foreverDaily neurons
OpenCode Free · foreverNo-auth catalog

דחיסת הקשר

צמצמו טוקנים זכאים ב-15–95%.

פלט כלים, הקשר חוזר ונתונים מובנים מנופחים יכולים להידחס לפני שהם מגיעים למודל.

Illustrative Ultra profile example from the audited documentation.

Before69 tokens

The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total.

After19 tokens

sum all list items where value > 0

Composable pipeline

Session-Dedup
השמטת תוכן שכבר נשלח מוקדם יותר בסשן.
CCR
ארכוב בלוקים גדולים ושחזורם לפי דרישה.
Lite
ניקוי שמרני ללא אובדן מידע.
RTK
סינון וביטול כפילויות בפלט פקודות וכלים.
Responses Tool Output
כיווץ מטעני כלים של Responses API.
Headroom
כיווץ הפיך של נתונים טבלאיים ומובנים.
Relevance
שמירת המשפטים הרלוונטיים ביותר לשאילתה האחרונה.
Caveman
תמצות פרוזה מבוסס חוקים.
Aggressive
גיזום חזק יותר לפי ההגדרות.
LLMLingua-2
גיזום סמנטי בטוח לקוד ב-worker מבודד.
Ultra
שילוב שלבים בעלי חיסכון גבוה עם מגני שימור.
OmniGlyph
קידוד קומפקטי של מבנים חוזרים זכאים.

Profiles

טווח הפרופיל המפורסם~30%x-omniroute-compression: standard

Controls and output styles

פרופילים בשמות ובורר פעיל
Compression Studio ויזואלי
Anthropic Context Editing
חוגת תקציב הקשר אדפטיבית
כותרת \
לכל בקשה
מסגרת eval לא מקוונת
הפעלה אוטומטית לפי סף טוקנים
Terse prose
Less code (YAGNI)
Terse CJK 文言

סדר קדימויות: כותרת בקשה → קומבו → פרופיל → מדיניות אדפטיבית → ברירת מחדל.

בידוד תקלות

בידוד תקלות של ספק, חיבור ומודל.

מפתח פגום לא אמור להשבית ספק. מודל מוגבל לא אמור להשבית חיבור.

מודל ⊂ חיבור ⊂ ספק

Circuit breaker לספקכשספק אינו תקין, ניתוב הקומבו מדלג עליו עד שבדיקת half-open מצליחה.

Cooldown לחיבורצננו מפתח או חשבון אחד בזמן שחיבורים אחרים ממשיכים לשרת.

נעילת מודלנעלו מודל אחד מוגבל-קצב או לא זמין בזמן ששאר המודלים בחיבור נשארים זמינים.

בקרות רשת ונתונים מקומיים

ניתוב רשת ובקרות נתונים מקומיות.

תחומי פרוקסי שולטים בניתוב הרשת, ואחסון local-first שומר את הנתונים התפעוליים על המכונה שלכם.

שלושה תחומי פרוקסי

נתבו גלובלית, לפי ספק או לפי חיבור בודד.

גלובלי · לפי ספק · לפי חיבור
פרוקסי SOCKS5 ו-HTTP(S)
אינטגרציה עם marketplace של פרוקסי

בקרות TLS וטביעת אצבע של לקוח

התאמה ללקוחות ספקים נתמכים עד לרמת מאפייני תעבורה נבחרים.

תעבורה עם תמיכת JA3/JA4 דרך wreq-js
פרופילי לקוח ייעודיים לכל ספק
בקרות יציאה ב-IPv4 ו-IPv6

פרטי ו-local-first

מפתחות, שימוש והיסטוריה נשארים על המארח שבשליטתכם.

SQLite על הדיסק עם פרטי גישה מוצפנים ב-AES-256-GCM
לא נדרש חשבון OmniRoute
אירוח עצמי על תשתית לבחירתכם

רוסיהסיןאיראןקובהטורקיה