OmniRouteby Cheaper Inference
OmniRoute, Cheaper Inference'a katıldıCheaper Inference'ı keşfet

#1 Açık Kaynak Yapay Zeka Yönlendiricisi

Tek bir OpenAI uyumlu uç nokta üzerinden 352 sağlayıcıya otomatik yedek geçişle yönlendirin.

Cheaper Inference'ı deneOmniRoute'u kendin barındır (yeni sekmede açılır)
OpenAI uyumlu Ücretsiz ve açık kaynak77.5k yıldız (yeni sekmede açılır)

OmniRoute × Cheaper Inference

OmniRoute'un otomatik yedek geçişini ve geliştirici araçlarını Cheaper Inference'ın maliyete göre sıralanmış pazar yeriyle birleştirin. Her uygun istek, mevcut en ucuz sağlayıcı rotasıyla başlar.

97 modelDoğrudan liste fiyatının Cheaper Inference fiyatıyla karşılaştırması
Modele göre doğrudan liste fiyatları ile Cheaper Inference fiyatlarının karşılaştırması
ModelGirdi fiyatıÇıktı fiyatıTasarrufBağlamAyrıntılar
gpt-5.6-lunaOpenAI · text$0.20$0.08/ 1M tokens$1.20$0.48/ 1M tokens%60 indirim1.1M
gpt-5.6-terraOpenAI · text$2.00$0.80/ 1M tokens$12.00$4.80/ 1M tokens%60 indirim1.1M
gpt-oss-120bOpenAI · text$0.10$0.040483/ 1M tokens$0.50$0.202417/ 1M tokens%59.52 indirim128K
deepseek-v4.1-flashDeepSeek · text$0.15$0.075/ 1M tokens$0.60$0.30/ 1M tokens%50 indirim1.0M
gpt-5.6-solOpenAI · text$4.00$2.00/ 1M tokens$20.00$10.00/ 1M tokens%50 indirim1.1M
glm-4.5Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens%45 indirim128K
glm-4.6Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens%45 indirim198K
glm-4.7Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens%45 indirim128K
97 modelden 8 tanesi gösteriliyor
Doğrudan liste fiyatı → Cheaper Inference fiyatı · Tüm modellere göz at · Canlı kataloğu gör (yeni sekmede açılır)Fiyatlar 14 Eki 2026 14:00 UTC tarihinde kontrol edildi. Yukarı akış fiyatları veya mevcut rotalar değiştiğinde oranlar değişebilir.

Temel kontroller

Yapılandırdığınız sağlayıcılar için tek uç nokta.

Core control

İstekleri akışta tutun

Bir hedef kullanılamıyorsa veya kotası bittiyse OmniRoute bir sonraki sağlıklı hedefi seçer.

Core control

Uygun bağlamı sıkıştırın

12 motorlu bir işlem hattı uygun bağlamı 15–95% azaltır. Belgelenen araç ağırlıklı örnekte azalma ~89% oldu.

Core control

Başlangıç için 0 $

90+ ücretsiz katman ve 56 yinelenen veya anahtarsız kalıcı ücretsiz sağlayıcı. Anahtarsız hızlı başlangıç için kredi kartı gerekmez.

Core control

35 desteklenen entegrasyon

Claude Code, Codex, Cursor, Cline, Copilot, Antigravity ve diğer desteklenen istemcileri tek uç nokta üzerinden yapılandırın.

Core control

Tek uç nokta

/v1 üzerinden OpenAI, Claude, Gemini ve Responses API isteklerini kabul edin.

Core control

Operasyonel kontroller

Devre kesiciler, şifreli kimlik bilgileri, MCP, A2A, bellek, korumalar ve değerlendirmeler kendi barındırdığınız ağ geçidiyle birlikte gelir.

Katalog

Hepsi tek uç noktanın arkasında.

Sohbet, medya, arama, yerel çalışma zamanları, bulut ajanları ve sistem entegrasyonlarını kapsayan bir katalog.

352 sağlayıcı

Hepsi, tek bir yerel uç noktanın arkasında.

Her istemcinin yöneldiği tek uç noktahttp://localhost:20128/v1

14 Search12 Audio-only2 Upstream proxy3 Cloud agent1 System
OpenAIAnthropicGoogleDeepSeekxAIZ.aiMoonshotMiniMaxAlibabaMetaBytedanceAion Labs
25OAuthClaude Code, Codex, Cursor, GitHub Copilot, Kimi Code…
233API anahtarıOpenAI, Anthropic, Groq, NVIDIA, Cerebras, Mistral…
35Web çereziChatGPT Web, Claude Web, Gemini Web, Grok Web…
14YerelOllama, LM Studio, vLLM, llama.cpp…
13Kimlik doğrulama yokOpenCode Free, Felo, Pollinations ve diğer anahtarsız rotalar…
Sağlayıcı referansını keşfet (opens in a new tab)

Hızlı başlangıç

Kur, çalıştır, bağlan.

Paketi kurun, ağ geçidini başlatın, ardından OpenAI uyumlu herhangi bir istemciyi 20128 portuna yöneltin.

Sağlayıcı kataloğu
352
Yönlendirme stratejileri
19
Yerel uç nokta
:20128/v1

Step 1: Kur

omniroute npm paketini global olarak kurun.

omniroute: install
$ npm install -g omnirouteadded 1 package

Step 2: Çalıştır

API'yi ve paneli 20128 portunda birlikte başlatın.

omniroute: run
$ omniroute▸ dashboard ✓ http://localhost:20128/dashboard▸ api ...... ✓ serving on :20128

Step 3: Aracını bağla

http://localhost:20128/v1 adresini kullanın; anahtarsız otomatik rota yeni kurulumda çalışır.

omniroute: connect
$ curl localhost:20128/v1/models✓ models listed

Ağ geçidi kontrolleri

Temel ağ geçidi kontrolleri tek süreçte.

Yedek geçiş, kota, sıkıştırma, bellek, MCP ve A2A'yı yerel panelden yapılandırın.

Gateway control

Akıllı Kombolar

Bir modeli auto olarak ayarlayın veya 19 strateji ve kademeli yedek geçişle kendi kombonuzu oluşturun.

Hazır bir mod kullanın veya 19 stratejiyi önemsediğiniz hedef etrafında birleştirin.

Gateway control

Bellek

FTS5 anahtar kelime ve Qdrant vektör geri çağırmalı kalıcı konuşma belleği.

Gateway control

3 katmanlı dayanıklılık

Sağlayıcı devre kesici, bağlantı soğuması ve model kilitleme, hataları en küçük anlamlı kapsamda yalıtır.

Gateway control

Ücretsiz kota

90+ ücretsiz katmanda havuz bazında tekilleştirilmiş muhasebe.

Yayınlanan ücretsiz katman kapasitesi, tekilleştirilmiş.

Gateway control

Sıkıştırma

Araç çıktısı, bağlam ve yanıt stili için 12 birleştirilebilir motor.

Uygun tokenları 15–95% azaltın.

Gateway control

MCP sunucusu

33 kapsamda 110 ağ geçidi aracı sunan yerleşik bir sunucu.

110 araç · 33 kapsam · stdio / HTTP

Gateway control

A2A protokolü

6 yetenekli bir JSON-RPC ajan sunucusu.

6 yetenek · JSON-RPC 2.0 · Agent Card

Gateway control

Anlamsal önbellek

Tekrarlanan bir istek önbellekten dönebilir ve yanıt üstbilgisi ne kadar tasarruf edildiğini bildirir.

X-OmniRoute-Cache: HIT

İstemci uyumluluğu

Mevcut kodlama araçlarınızı kullanmaya devam edin.

OpenAI uyumlu bir CLI'yi veya editörü tek yerel temel URL'ye yöneltin; arkadaki sağlayıcıları OmniRoute yönetir.

Claude Code
Codex CLI
Cursor
Cline
GitHub Copilot
Gemini CLI
OpenCode
Kilo Code
Factory Droid
Continue
Roo Code
Antigravity
Aider
OpenClaw
Goose
Grok Build
Windsurf
Devin CLI

http://localhost:20128/v1

request.sh
curl http://localhost:20128/v1/chat/completions \
  -H "Authorization: Bearer $OMNIROUTE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Hello"}]}'

OmniCopilot

OmniRoute modellerini Copilot Chat'te kullanın.

OmniCopilot, OmniRoute modellerini mevcut model seçiciye ekler.

Resmi Marketplace

VS Code stable ve Insiders'ta çalışır. Marketplace'ten veya Uzantılar görünümünden kurun.

Open VSX Registry

Cursor, Windsurf, VSCodium, Theia, code-server, Gitpod ve diğer uyumlu editörler için.

Copilot planı gerekmez

Sağlayıcı modelleri, çıkarımı bir Copilot planı üzerinden geçirmeden Copilot Chat'te OmniRoute üzerinden çalışabilir.

VS Code Marketplace (yeni sekmede açılır)Open VSX Registry (yeni sekmede açılır)OmniCopilot source (yeni sekmede açılır)

Yaygın hata modları

Neden OmniRoute

Her yaygın hata modunu hangi kontrolün ele aldığını görün.

Without routing
With OmniRoute
Kota kullanılmadan sona eriyor
Zaten sahip olduğunuz hakkı izleyin ve tüketin
Hız sınırları işin ortasında sizi durduruyor
Milisaniyeler içinde 4 kademeli otomatik yedek geçiş
Araç çıktısı token yakıyor
12 motorlu sıkıştırma, uygun içerikte 15–95%
Pahalı API'ler birikiyor
Maliyet odaklı yönlendirme en ucuz uygun hedefi seçebilir
Her araç ayrı kurulum istiyor
Tek uç nokta ve tek panel
Bir sağlayıcıya ağınızdan erişilemiyor
Proxy kapsamları ve istemci parmak izi kontrolleri
Tek ölü anahtar bir sağlayıcıyı çökertiyor
Devre kesici, soğuma ve kilitleme hatayı yalıtır
Bir ekip tek aboneliği paylaşıyor
Anahtar havuzları ve adil paylaşım kotaları
Yönlendirme verilerinde yerel kontrol istiyorsunuz
Şifreli kimlik bilgileriyle yerel öncelikli depolama
Harcama veya sağlık görünürlüğü yok
Kullanım, kota, tasarruf ve gecikme analitiği

Dokümantasyon anlık görüntüsü

Ağ geçitleri nasıl karşılaştırılıyor

Yetenekler 2026-08-30 tarihinde bağlantılı proje dokümantasyonuna göre kontrol edildi.

YetenekOmniRoute (yeni sekmede açılır)9Router (yeni sekmede açılır)LiteLLM (yeni sekmede açılır)CLIProxyAPI (yeni sekmede açılır)
Sağlayıcılar35240+100+8+ upstreams
Yönlendirme stratejileri193-tierretry / priorityround-robin / fill-first
Arayüzlü kademeli yedek geçişYesYesManual policyMulti-account
Token sıkıştırma12 engines · 15–95%RTK / Headroom / CavemanNo built-in pipelineHTTP compression

Herkese açık README ve resmi dokümantasyon anlık görüntüsü; satın alma veya dağıtım kararlarından önce bağlantılı kaynakları doğrulayın.

Dağıtım

OmniRoute'u çalıştırmanın 9 desteklenen yolu.

Dizüstüne, sunucuya veya telefona kurun ya da desteklenen bir editör ve eklenti üzerinden bağlanın.

npm

Desteklenen her masaüstü işletim sisteminde tek komut

npm install -g omnirouteRehberi aç (yeni sekmede açılır)

Docker

Çok mimarili AMD64 ve ARM64 imajı

docker run … diegosouzapw/omnirouteRehberi aç (yeni sekmede açılır)

Desktop

Windows, macOS ve Linux'ta yerel pencere ve sistem tepsisi

npm run electron:buildRehberi aç (yeni sekmede açılır)

ARM

Raspberry Pi, ARM sunucular ve Apple Silicon

native arm64

Android · Termux

Android'de root olmadan çalışır

pkg install nodejs && npx -y omnirouteRehberi aç (yeni sekmede açılır)

PWA

Tam ekran, çevrimdışı hazır ve tarayıcıdan kurulabilir

Add to Home ScreenRehberi aç (yeni sekmede açılır)

OpenCode plugin

Yerel OpenCode sağlayıcı eklentisi

@omniroute/opencode-providerRehberi aç (yeni sekmede açılır)

VS Code

Copilot Chat seçicisinde OmniRoute modelleri

Install OmniCopilotRehberi aç (yeni sekmede açılır)

From source

Üzerinde çalış ve katkıda bulun

npm install && npm run devRehberi aç (yeni sekmede açılır)

Yönlendirme

Bir otomatik rota seçin.

Hazır bir mod kullanın veya 19 stratejiyi önemsediğiniz hedef etrafında birleştirin.

Model · yedek geçiş etkinautoBalanced default
OpenAI uyumlu istek
curl http://localhost:20128/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Write a TypeScript retry helper."}]}'

Routing alias auto selected. Objective: Balanced default. Fallback enabled.

Abonelik kotasını tüket

Ücretli API'lere dokunmadan önce zaten sahip olduğunuz kotayı kullanın.

priority · fill-first

Yükü dağıt

Hız sınırı baskısını azaltmak için trafiği anahtarlar ve hesaplar arasında dengeleyin.

weighted · round-robin · p2c · least-used · headroom

Önce en ucuz

En düşük maliyetli uygun hedefe yönlendirin.

cost-optimized

Bağlama duyarlı

Uzun bağlamları sığdıkları modellerde tutun, gerektiğinde aktarın.

context-relay · context-optimized · cache-optimized

Rastgele

Uygun trafiği hedefler arasında dağıtın.

random · strict-random

Uyarlanabilir puanlama

15 faktörlü puanlama, son bilinen iyi durum ve sıfırlamaya duyarlı pencereler kullanın.

reset-window · reset-aware · lkgp · auto · fusion · pipeline

Ücretsiz katman muhasebesi

Yayınlanan ücretsiz katman kapasitesi, tekilleştirilmiş.

455 katalog girdisi 40 yinelenen havuza tekilleştirilir; başlığı yalnızca yayınlanmış pozitif bütçeler besler.

1.51B

Havuz bazında tekilleştirilmiş muhasebe, paylaşılan kotaların birden fazla kez sayılmasını engeller. Sınırsız sağlayıcılar token toplamını şişirmeden görünür kalır. Checked 2026-08-30.

Hesaplamayı gör (yeni sekmede açılır)
Yinelenen veya anahtarsız kalıcı ücretsiz sağlayıcılar56
  • Mistral1B/month
  • LLM7150M/month
  • Nara150M/month
  • Gemini CLI · forever60M/month
  • Kiro50 credits/month
  • Qoder · foreverFree catalog
  • LongCat · forever50M/day
  • Cerebras1M/day
  • NVIDIA NIM~40 RPM
  • Pollinations · foreverNo key
  • Cloudflare Workers AI · foreverDaily neurons
  • OpenCode Free · foreverNo-auth catalog

Bağlam sıkıştırma

Uygun tokenları 15–95% azaltın.

Araç çıktısı, tekrarlanan bağlam ve şişmiş yapılandırılmış veriler modele ulaşmadan önce sıkıştırılabilir.

Uygun tokenlarda bağlam 15–95% azaltıldı

Önce: The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total. Sonra: sum all list items where value > 0

  1. Session-Dedup
  2. CCR
  3. Lite
  4. RTK
  5. Responses Tool Output
  6. Headroom
  7. Relevance
  8. Caveman
  9. Aggressive
  10. LLMLingua-2
  11. Ultra
  12. OmniGlyph

Aynı talimat. Ödenecek daha az bağlam.

Önce69 tokens
The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total.
Sonra19 tokens
sum all list items where value > 0

Birleştirilebilir işlem hattı

  1. Session-Dedup
    Oturumda daha önce gönderilen içeriği atar.
  2. CCR
    Büyük blokları arşivler, istendiğinde geri yükler.
  3. Lite
    Temkinli, kayıpsız temizlik uygular.
  4. RTK
    Komut ve araç çıktısını filtreler ve tekilleştirir.
  5. Responses Tool Output
    Responses API araç yüklerini sıkıştırır.
  6. Headroom
    Geri alınabilir tablo ve yapılandırılmış veri sıkıştırması uygular.
  7. Relevance
    Son sorguyla en ilgili cümleleri korur.
  8. Caveman
    Kural tabanlı metin yoğunlaştırması kullanır.
  9. Aggressive
    Daha güçlü, yapılandırılmış budama uygular.
  10. LLMLingua-2
    Yalıtılmış bir işçide kod güvenli anlamsal budama kullanır.
  11. Ultra
    Yüksek tasarruflu aşamaları koruma denetimleriyle birleştirir.
  12. OmniGlyph
    Uygun tekrarlanan yapıları kompakt biçimde kodlar.

Profiller

Yayınlanan profil aralığı~30%x-omniroute-compression: standard

Standard sıkıştırması seçildi. Yayınlanan aralık ~30%.

Kontroller ve çıktı stilleri

  • Adlandırılmış profiller ve etkin seçici
  • Visual Compression Studio
  • Anthropic Context Editing
  • Uyarlanabilir bağlam bütçesi kadranı
  • İstek başına \
  • üstbilgisi
  • Çevrimdışı değerlendirme düzeneği
  • Token eşiğiyle otomatik tetikleme
  • Terse prose
  • Less code (YAGNI)
  • Terse CJK 文言

Kontrol önceliği: istek üstbilgisi → kombo → profil → uyarlanabilir politika → varsayılan.

Hata yalıtımı

Sağlayıcı, bağlantı ve model hatalarını yalıtın.

Kötü bir anahtar bir sağlayıcıyı çökertmemeli. Sınırlanan bir model bir bağlantıyı çökertmemeli.

model ⊂ bağlantı ⊂ sağlayıcı
Sağlayıcı devre kesiciBir sağlayıcı sağlıksızsa kombo yönlendirmesi, yarı açık bir sonda başarılı olana kadar onu atlar.
Bağlantı soğumasıKardeş bağlantılar hizmet vermeye devam ederken tek bir anahtarı veya hesabı soğutun.
Model kilitlemeHız sınırına takılan veya kullanılamayan tek bir modeli kilitleyin; bağlantıdaki diğer modeller kullanılabilir kalır.

Ağ kontrolleri

Ağ yönlendirme ve yerel veri kontrolleri.

Proxy kapsamları ağ yönlendirmesini kontrol eder; yerel öncelikli depolama operasyonel verileri makinenizde tutar.

Üç proxy kapsamı

Global, sağlayıcı başına veya tekil bağlantı başına yönlendirin.

  • Global · sağlayıcı başına · bağlantı başına
  • SOCKS5 ve HTTP(S) proxy'ler
  • Proxy pazar yeri entegrasyonu

TLS ve istemci parmak izi kontrolleri

Desteklenen sağlayıcı istemcilerini seçili aktarım özelliklerine kadar eşleştirin.

  • wreq-js ile JA3/JA4 destekli aktarım
  • Sağlayıcıya özel istemci profilleri
  • IPv4 ve IPv6 çıkış kontrolleri

Özel ve yerel öncelikli

Anahtarlar, kullanım ve geçmiş kontrol ettiğiniz ana makinede kalır.

  • Diskte SQLite, AES-256-GCM ile şifreli kimlik bilgileri
  • OmniRoute hesabı gerekmez
  • Seçtiğiniz altyapıda kendiniz barındırın
RusyaÇinİranKübaTürkiye

Yerel panel

OmniRoute'u YAML düzenlemeden yapılandırın.

Sağlayıcıları, komboları, analitiği, sağlığı ve maliyetleri localhost:20128/dashboard adresinden yönetin.

localhost:20128/dashboardÖrnek veri
352bağlı sağlayıcı
90+kullanılabilir ücretsiz katman
198bu örnekte sağlıklı
  • Claude Code · OAuth · canlı
  • Cerebras · ücretsiz · canlı
  • Groq · soğuma örneği
  • NVIDIA NIM · ücretsiz · canlı

Ajan protokolleri

OmniRoute'u MCP ve A2A üzerinden sunun.

OmniRoute ağ geçidini MCP istemcilerine, A2A ağlarına ve desteklenen bulut kodlama ajanlarına açabilir.

MCP sunucusu

stdio ve HTTP aktarımları üzerinden 33 kapsamda 110 araç.

110 araç · 33 kapsam · stdio / HTTP

claude mcp add omniroute --type http --url http://localhost:20128/api/mcp/stream

A2A sunucusu

JSON-RPC 2.0 üzerinden akıllı yönlendirme, kota, keşif, maliyet analizi ve sağlık raporlaması için 6 yetenek.

6 yetenek · JSON-RPC 2.0 · Agent Card

Bulut ajanları

Desteklenen Codex, Cursor, Devin ve Jules iş akışlarını tek orkestrasyon yüzeyinden bağlayın.

Codex · Cursor · Devin · Jules

Ek hizmetler

Ağ geçidini genişletin.

Gömülü hizmetler

Bifrost, 9Router veya CLIProxy'yi yönetilen yan bileşen olarak çalıştırın ya da tam bir küme profili işletin.

Bilginiz, bağlamda

Notion ve Obsidian'ı MCP destekli bağlam kaynakları olarak bağlayın.

Yerleşik korumalar

Sağlayıcıya bağımlılık olmadan prompt enjeksiyonu kontrolleri, isteğe bağlı PII maskeleme ve normalleştirilmiş güvenlik filtreleri.

Kullanım hedefleri

Serileri, başarıları ve anlık tasarrufları operasyonel analitikle birlikte izleyin.

Topluluktan

OmniRoute nasıl kullanılıyor ve konuşuluyor.

Geliştiricilerin X, Reddit ve YouTube'da ne inşa ettiğini, sorduğunu ve paylaştığını görün.

32 kanaldan 32 video32 topluluk videosunun tümünü gör

Profile picture of Peng
Peng@pengsonal
Link to tweet (opens in a new tab)
one local endpoint for cursor / cline / claude code / copilot 😳 OmniRoute (24.7k★ on GitHub) runs a self-hosted router on your machine so you only need one base URL for all your coding agents. wha…

25 posts from X · 25 Reddit postsTüm gönderileri gör

Açıkta geliştiriliyor

Depo etkinliği

Kayıtlı GitHub anlık görüntüsünden yıldızları, fork'ları, katkıda bulunanları ve sürümleri görün.

  • 11,226fork
  • 841katkıda bulunan
  • 281yayınlanan sürüm
  • 9,060birleştirilen PR
  • 5,084kapatılan issue
  • 30,000otomatik test

2026-10-17 tarihli anlık görüntü

Discord

Sohbet, destek ve yol haritası

(yeni sekmede açılır)

Telegram

Haberler ve duyurular

(yeni sekmede açılır)

WhatsApp 🌍

Küresel topluluk

(yeni sekmede açılır)

WhatsApp 🇧🇷

Comunidade Brasil

(yeni sekmede açılır)
Katkıda bulunanlarla tanışın (yeni sekmede açılır)

Cheaper Inference'tan OmniRoute

OmniRoute'u nasıl çalıştıracağınızı seçin.

OmniRoute'u kendiniz barındırın veya barındırılan, maliyete göre sıralanmış bir ağ geçidi için Cheaper Inference ile başlayın.

Cheaper Inference'ı dene OmniRoute'u kendin barındır (yeni sekmede açılır)