AI Gateway ฟรีและโอเพนซอร์ส

ไม่หยุดโค้ดไม่ว่าจะเกิดอะไรขึ้น

Route across 352 providers through one OpenAI-compatible endpoint, with automatic fallback.

Start with Cheaper Inference Self-host OmniRoute

352 providers
90+ free tiers
15–95% eligible tokens saved

OpenAI-compatible Free and open source59.6k stars

6 models

Direct list prices compared with Cheaper Inference prices by model
Model	Input price	Output price	Savings
gpt-5.6-lunaOpenAI · text	~~$0.20~~$0.08/ 1M tokens	~~$1.20~~$0.48/ 1M tokens	60% off
gpt-5.6-solOpenAI · text	~~$2.00~~$1.00/ 1M tokens	~~$10.00~~$5.00/ 1M tokens	50% off
glm-5.3Z.ai · text	~~$1.40~~$0.77/ 1M tokens	~~$4.40~~$2.42/ 1M tokens	45% off
deepseek-v4-flashDeepSeek · text	~~$0.083~~$0.05/ 1M tokens	~~$0.18~~$0.11/ 1M tokens	40% off
deepseek-v4-flash-0731DeepSeek · text	~~$0.067~~$0.04/ 1M tokens	~~$0.18~~$0.11/ 1M tokens	40% off
glm-5.3-flashZ.ai · text	~~$0.071~~$0.05/ 1M tokens	~~$0.24~~$0.17/ 1M tokens	30% off

คำสัญญา

Endpoint เดียว ไม่หยุดสร้าง

ไม่ต้องกังวลเรื่องขีดจำกัด

สลับอัตโนมัติระหว่างผู้ให้บริการ 339 รายภายในมิลลิวินาที โควต้าหมดแล้ว? ผู้ให้บริการรายถัดไปจะรับช่วงต่อ. หยุดทำงานเป็นศูนย์

ประหยัดโทเค็นได้ถึง 95%

A 12-engine pipeline reduces eligible context by 15–95%. The documented tool-heavy example reduced it by ~89%.

$0 เพื่อเริ่มต้น

90+ free tiers and 56 recurring or keyless free-forever providers. No credit card needed for the keyless quick start.

35 supported integrations

ตัวแทนเขียนโค้ด 16+ ตัว. Claude Code, Codex, Cursor, Cline, Copilot, Antigravity. ผ่านการตั้งค่าเดียว

Endpoint เดียว

การแปล OpenAI ↔ Claude ↔ Gemini ↔ Responses API ชี้เครื่องมือใดก็ได้ที่ /v1 แล้วมันก็ทำงาน

ระดับการผลิต

Circuit breakers, TLS stealth, MCP (105 เครื่องมือ), A2A, หน่วยความจำ, การ์ดเรล, การประเมิน. รองรับด้วยการทดสอบ 25,000+ ครั้ง

แคตาล็อก

All behind one endpoint.

A catalog spanning chat, media, search, local runtimes, cloud agents and system integrations.

352 providers

14 Search12 Audio-only2 Upstream proxy3 Cloud agent1 System

25OAuthClaude Code, Codex, Cursor, GitHub Copilot, Kimi Code…

233API keyOpenAI, Anthropic, Groq, NVIDIA, Cerebras, Mistral…

35Web cookieChatGPT Web, Claude Web, Gemini Web, Grok Web…

14LocalOllama, LM Studio, vLLM, llama.cpp…

13No authenticationOpenCode Free, Felo, Pollinations and other keyless routes…

Explore the provider reference

ใช้งานได้ใน 60 วินาที

สามคำสั่ง ไม่ต้อง config

Install the package, launch the gateway, then point any OpenAI-compatible client at port 20128.

Provider catalog: 352
Routing strategies: 19
Local endpoint: :20128/v1

Step 1: Install

Install the `omniroute` npm package globally.

omniroute: install

$ npm install -g omnirouteadded 1 package

Step 2: Run

Launch the API and dashboard together on port 20128.

omniroute: run

$ omniroute▸ dashboard ✓ http://localhost:20128/dashboard▸ api ...... ✓ serving on :20128

Step 3: Connect your tool

Use `http://localhost:20128/v1`; the keyless `auto` route works on a fresh install.

omniroute: connect

$ curl localhost:20128/v1/models✓ models listed

ครบในตัว

ทุกอย่างรวมอยู่แล้ว ไม่ต้องติด add-on

Routing, resilience, การดูด quota ฟรี, การบีบอัด และ agent protocol. ไบนารีเดียว ไม่มีปลั๊กอินให้ต่อ

Smart Combos

Set a model to `auto` or build your own combo with 19 strategies and tiered fallback.

Use a ready-made mode or combine 19 strategies around the goal that matters.

หน่วยความจำ

หน่วยความจำการสนทนาถาวร. การค้นหาคำสำคัญ FTS5 + เวกเตอร์ Qdrant, ติดตั้งมาในตัว

3-layer resilience

ล้มเหลวในระดับที่ถูกต้อง. ไม่ใช่ทั้งระบบ circuit breaker ต่อผู้ให้บริการ, cooldown ต่อ connection, lockout ต่อโมเดล ทุกอย่างที่เหลือยังให้บริการต่อ

Quota ฟรี

Pool-deduped accounting across 90+ free tiers.

~1.51B token ฟรีต่อเดือน

การบีบอัด

12 composable engines for tool output, context and response style.

Reduce eligible tokens by 15–95%.

MCP Server

A built-in server exposing 110 gateway tools across 33 scopes.

110 tools · 33 scopes · stdio / HTTP

A2A Protocol

A JSON-RPC agent server with 6 skills.

6 skills · JSON-RPC 2.0 · Agent Card

CombosResilienceFree quotaCompressionMCPA2AMemoryProxy controlsGuardrailsCloud agentsEvalsSemantic cacheSkillsAnalytics

Client compatibility

Keep your existing coding tools.

Point an OpenAI-compatible CLI or editor at one local base URL; OmniRoute handles the providers behind it.

Claude Code

Codex CLI

Cursor

Cline

GitHub Copilot

Gemini CLI

OpenCode

Kilo Code

Factory Droid

Continue

Roo Code

Antigravity

Aider

OpenClaw

Goose

Grok Build

Windsurf

Devin CLI

http://localhost:20128/v1

request.sh

curl http://localhost:20128/v1/chat/completions \
  -H "Authorization: Bearer $OMNIROUTE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Hello"}]}'

ใหม่

ตอนนี้อยู่ใน VS Code Copilot Chat ของคุณแล้ว

ติดตั้งส่วนขยาย OmniCopilot แล้วทุกโมเดลของ OmniRoute จะปรากฏตรงในตัวเลือกโมเดลที่คุณใช้อยู่แล้ว. ไม่มีแถบด้านข้างใหม่ ไม่มี UI แชทใหม่

Official Marketplace

Works in VS Code stable and Insiders. Install from the Marketplace or Extensions view.

Open VSX Registry

สำหรับ VS Code fork ที่ไม่ได้ใช้ร้านค้าอย่างเป็นทางการ. Cursor, Windsurf, VSCodium, Theia, code-server, Gitpod และอื่นๆ

ไม่ต้องมีแผน Copilot

ตั้งแต่ VS Code 1.122 โมเดลของผู้ให้บริการทำงานได้โดยไม่ต้องเข้าสู่ระบบ GitHub หรือสมัครสมาชิก Copilot. agent mode, การเรียกใช้ tool และ vision บนโมเดลฟรีของ OmniRoute

VS Code Marketplace Open VSX Registry OmniCopilot source

ความเป็นจริงในชีวิตประจำวัน

ทำไมต้อง OmniRoute

ทุกปัญหาของ coding AI มีการแก้ไขในตัว ไม่ต้องเขียนสคริปต์เอง

Without routing

With OmniRoute

Quota expires unused

Track and drain the allowance you already have

Rate limits stop you mid-task

4-tier auto-fallback in milliseconds

Tool output burns tokens

12-engine compression, 15–95% on eligible content

Expensive APIs add up

Cost-optimized routing can pick the cheapest eligible target

Each tool needs its own setup

One endpoint and one dashboard

A provider is unavailable from your network

Proxy scopes and client-fingerprint controls

One dead key breaks a provider

Breaker, cooldown and lockout isolate the failure

A team shares one subscription

Key pools and fair-share quotas

You need local control of routing data

Local-first storage with encrypted credentials

No spend or health visibility

Usage, quota, savings and latency analytics

1. Subscription2. API key3. Cheap4. Free

การเปรียบเทียบที่ตรงไปตรงมา

เปรียบเทียบกันตรงๆ

Capabilities checked against the linked project documentation on 2026-08-30.

Capability	OmniRoute (opens in a new tab)	9Router (opens in a new tab)	LiteLLM (opens in a new tab)	CLIProxyAPI (opens in a new tab)
Providers	352	40+	100+	8+ upstreams
Routing strategies	19	3-tier	retry / priority	round-robin / fill-first
Tiered fallback with UI	Yes	Yes	Manual policy	Multi-account
Token compression	12 engines · 15–95%	RTK / Headroom / Caveman	No built-in pipeline	HTTP compression

Capability	OmniRoute (opens in a new tab)	9Router (opens in a new tab)	LiteLLM (opens in a new tab)	CLIProxyAPI (opens in a new tab)
Built-in MCP server	110 gateway tools	No	MCP client / gateway	No
A2A protocol	Server · 6 skills	No	A2A client / gateway	No
Cloud agents	Codex / Cursor / Devin / Jules	No	No	Sidecar integrations

Capability	OmniRoute (opens in a new tab)	9Router (opens in a new tab)	LiteLLM (opens in a new tab)	CLIProxyAPI (opens in a new tab)
Failure-isolation layers	3: provider / connection / model	Cooldown	Cooldown / retry	Cooldown
Persistent memory	FTS5 + vector	No	Semantic cache	No
Guardrails	PII / injection / vision	No	Yes	Cloaking controls
Eval framework	Built in	No	No	No
TLS fingerprint controls	wreq-js	No	No	uTLS

Capability	OmniRoute (opens in a new tab)	9Router (opens in a new tab)	LiteLLM (opens in a new tab)	CLIProxyAPI (opens in a new tab)
Dashboard stack	Next.js 16	Next.js 16	Next.js	Next.js / React
UI locales	42	10	Not documented	3
OAuth providers	25	6	SSO	CLI auth
Self-hostable	Yes	Yes	Yes	Yes
License	MIT	MIT	MIT + enterprise	MIT

Public README and official documentation snapshot; verify linked sources before purchase or deployment decisions.

รันได้ทุกที่

9 supported ways to run OmniRoute.

โค้ดเบสเดียว เก้าวิธีรัน. แล็ปท็อป, เซิร์ฟเวอร์, โทรศัพท์ หรือปลั๊กอิน เลือกคำสั่ง install แล้วเสิร์ฟบนพอร์ต 20128

ARM

native arm64

Android · Termux

Termux

pkg install nodejs && npx -y omnirouteOpen guide

PWA

Add to Home ScreenOpen guide

OpenCode plugin

@omniroute/opencode-providerOpen guide

VS Code

Install OmniCopilotOpen guide

From source

Source

npm install && npm run devOpen guide

Routing

Choose an `auto` route.

Use a ready-made mode or combine 19 strategies around the goal that matters.

Model · fallback enabledautoBalanced default

OpenAI-compatible request

curl http://localhost:20128/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Write a TypeScript retry helper."}]}'

Drain subscription quota

Use quota you already have before touching paid APIs.

priority · fill-first

Spread load

Balance traffic across keys and accounts to reduce rate-limit pressure.

weighted · round-robin · p2c · least-used · headroom

Cheapest first

Route to the lowest-cost eligible target.

cost-optimized

Context-aware

Keep long contexts on models that fit, then relay when needed.

context-relay · context-optimized · cache-optimized

Randomized

Distribute eligible traffic across targets.

random · strict-random

Adaptive scoring

Use 15-factor scoring, last-known-good and reset-aware windows.

reset-window · reset-aware · lkgp · auto · fusion · pipeline

Token ฟรีนับอย่างซื่อตรง

~1.51B token ฟรีต่อเดือน

455 catalog entries are deduplicated into 40 recurring pools; only published positive budgets feed the headline.

1.51B

Pool-deduped accounting keeps shared quotas from being counted more than once. No-cap providers stay visible without inflating the token total. Checked 2026-08-30.

View the calculation

Recurring or keyless free-forever providers56

Mistral1B/month
LLM7150M/month
Nara150M/month
Gemini CLI · forever60M/month
Kiro50 credits/month
Qoder · foreverFree catalog
LongCat · forever50M/day
Cerebras1M/day
NVIDIA NIM~40 RPM
Pollinations · foreverNo key
Cloudflare Workers AI · foreverDaily neurons
OpenCode Free · foreverNo-auth catalog

หยุดเผา token

Reduce eligible tokens by 15–95%.

ผลลัพธ์ของเครื่องมือ บริบทที่ซ้ำซ้อน และ JSON ที่บวมถูกบีบอัดก่อนถึงโมเดล. ความหมายเดิม แต่ใช้ Token เพียงเศษเสี้ยว 12 engine ที่ประกอบเข้าด้วยกันได้เรียงซ้อนในไปป์ไลน์ที่คุณควบคุม

Before69 tokens

The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total.

After19 tokens

sum all list items where value > 0

Composable pipeline

Session-Dedup
Drop content already sent earlier in the session.
CCR
Archive large blocks and restore them on demand.
Lite
Apply conservative lossless cleanup.
RTK
Filter and deduplicate command and tool output.
Responses Tool Output
Compact Responses API tool payloads.
Headroom
Apply reversible tabular and structured-data compaction.
Relevance
Keep sentences most relevant to the latest query.
Caveman
Use rule-based prose condensation.
Aggressive
Apply stronger configured pruning.
LLMLingua-2
Use code-safe semantic pruning in an isolated worker.
Ultra
Combine high-savings stages with preservation guards.
OmniGlyph
Encode eligible repeated structures compactly.

Profiles

Published profile range~30%x-omniroute-compression: standard

Controls and output styles

Named profiles and active selector
Visual Compression Studio
Anthropic Context Editing
Adaptive context-budget dial
Per-request `x-omniroute-compression` header
Offline eval harness
Token-threshold auto-trigger
Terse prose
Less code (YAGNI)
Terse CJK 文言

Control precedence: request header → combo → profile → adaptive policy → default.

3 ชั้น ไม่ใช่ 3 tier

ล้มเหลวในระดับที่ถูกต้อง. ไม่ใช่ทั้งระบบ

key ที่เสียไม่ควรทำลายผู้ให้บริการ โมเดลที่ตายไม่ควรทำลาย key ความล้มเหลวแต่ละอย่างถูกแยกออกในขอบเขตเล็กที่สุด ทุกอย่างที่เหลือยังให้บริการต่อ

model ⊂ connection ⊂ provider

Provider circuit breakerWhen a provider is unhealthy, combo routing skips it until a half-open probe succeeds.

Connection cooldownCool down one key or account while sibling connections keep serving.

Model lockoutLock one rate-limited or unavailable model while other models on the connection remain available.

Network controls

Network routing and local data controls.

Proxy scopes control network routing while local-first storage keeps operational data on your machine.

Three proxy scopes

Route globally, per provider or per individual connection.

Global · per-provider · per-connection
SOCKS5 and HTTP(S) proxies
Proxy marketplace integration

TLS and client fingerprint controls

Match supported provider clients down to selected transport characteristics.

JA3/JA4-capable transport via wreq-js
Provider-specific client profiles
IPv4 and IPv6 egress controls

Private and local-first

Keys, usage and history stay on the host you control.

SQLite on disk with AES-256-GCM encrypted credentials
No OmniRoute account required
Self-host on infrastructure you choose

RussiaChinaIranCubaTürkiye

เห็นทุกอย่างในมุมเดียว

Dashboard ครบ ไม่ใช่แค่ config file

Manage providers, combos, analytics, health and costs at `localhost:20128/dashboard`.

localhost:20128/dashboardExample data

352providers connected

90+free tiers available

198healthy in this example

Claude Code · OAuth · live
Cerebras · free · live
Groq · cooldown example
NVIDIA NIM · free · live

รองรับ agent โดยเนื้อแท้

เชื่อมต่อ agent. มันขับ OmniRoute เอง

OmniRoute ไม่ใช่แค่ proxy. มันพูด agent protocol ได้ เสียบเข้า MCP client, A2A network หรือ cloud coding agent แล้วมันกลายเป็น tool ที่ agent ใช้ได้

MCP Server

110 tools across 33 scopes over stdio and HTTP transports.

110 tools · 33 scopes · stdio / HTTP

claude mcp add omniroute --type http --url http://localhost:20128/api/mcp/stream

A2A Server

6 skills for smart routing, quota, discovery, cost analysis and health reporting over JSON-RPC 2.0.

6 skills · JSON-RPC 2.0 · Agent Card

Cloud Agents

ขับ Codex, Cursor, Devin และ Jules ผ่าน interface เดียว. สร้าง task, อนุมัติแผน และ stream ผลลัพธ์ ทุกอย่างผ่าน OmniRoute

Codex · Cursor · Devin · Jules

เหนือกว่าการ routing

ไม่ใช่แค่ proxy. แต่เป็นแพลตฟอร์ม

บริการฝังในตัว

รัน Bifrost (Go relay), 9Router หรือ CLIProxy เป็น managed sidecar. หรือ cluster profile แบบเต็ม. ตรงจาก dashboard

ความรู้ของคุณ ในบริบท

เชื่อม Notion & Obsidian เป็น MCP tool. โน้ตและ vault ของคุณกลายเป็นบริบทชั้นหนึ่งสำหรับทุกโมเดล

Guardrails ในตัว

ป้องกัน prompt-injection ทุก route, PII redaction แบบเลือกเปิด และ normalize ตัวกรองเนื้อหาความปลอดภัย. ป้องกันโดยไม่ถูกล็อกอิน

Gamification

Streak, achievement และยอดประหยัดแบบเรียลไทม์. เปลี่ยนการใช้งานของคุณให้จับต้องได้

Guides

Setup guides in three languages

Walkthroughs cover installation, free-provider setup and connecting an IDE.

ชุมชนที่เคลื่อนไหวรวดเร็วและกระตือรือร้น

OmniRoute พัฒนาอย่างต่อเนื่อง. ขับเคลื่อนโดยผู้มีส่วนร่วมหลายร้อยคนที่รักษาให้ล้ำหน้า

Public since February 13, 2026

59,579 stars

View the repository

8,274forks
583contributors
280releases shipped

Snapshot from 2026-09-01

OmniRoute by Cheaper Inference

Choose how you run OmniRoute.

Self-host OmniRoute, or start with Cheaper Inference for a hosted cost-ranked gateway.

Start with Cheaper Inference Self-host OmniRoute

ไม่หยุดโค้ดไม่ว่าจะเกิดอะไรขึ้น

OmniRouteworksevenbetterwithCheaperInference.

Endpoint เดียว ไม่หยุดสร้าง

ไม่ต้องกังวลเรื่องขีดจำกัด

ประหยัดโทเค็นได้ถึง 95%

$0 เพื่อเริ่มต้น

35 supported integrations

Endpoint เดียว

ระดับการผลิต

All behind one endpoint.

สามคำสั่ง ไม่ต้อง config

Step 1: Install

Step 2: Run

Step 3: Connect your tool

ทุกอย่างรวมอยู่แล้ว ไม่ต้องติด add-on

Smart Combos

หน่วยความจำ

3-layer resilience

Quota ฟรี

การบีบอัด

MCP Server

A2A Protocol

Keep your existing coding tools.

ตอนนี้อยู่ใน VS Code Copilot Chat ของคุณแล้ว

Official Marketplace

Open VSX Registry

ไม่ต้องมีแผน Copilot

ทำไมต้อง OmniRoute

เปรียบเทียบกันตรงๆ

9 supported ways to run OmniRoute.

npm

Docker

Desktop

ARM

Android · Termux

PWA

OpenCode plugin

VS Code

From source

Choose an `auto` route.

Drain subscription quota

Spread load

Cheapest first

Context-aware

Randomized

Adaptive scoring

~1.51B token ฟรีต่อเดือน

Reduce eligible tokens by 15–95%.

Composable pipeline

Profiles

Controls and output styles

ล้มเหลวในระดับที่ถูกต้อง. ไม่ใช่ทั้งระบบ

Network routing and local data controls.

Three proxy scopes

TLS and client fingerprint controls

Private and local-first

Dashboard ครบ ไม่ใช่แค่ config file

เชื่อมต่อ agent. มันขับ OmniRoute เอง

MCP Server

A2A Server

Cloud Agents

ไม่ใช่แค่ proxy. แต่เป็นแพลตฟอร์ม

บริการฝังในตัว

ความรู้ของคุณ ในบริบท

Guardrails ในตัว

Gamification

Setup guides in three languages

🇧🇷 Complete guide · Português

🇺🇸 Complete guide · English

🇷🇺 Complete guide · Русский

ชุมชนที่เคลื่อนไหวรวดเร็วและกระตือรือร้น

Public since February 13, 2026

Discord

Telegram

WhatsApp 🌍

WhatsApp 🇧🇷

Choose how you run OmniRoute.