OmniRoute / 제품 기능

검토하고 셀프 호스팅할 수 있는 제어.

기능 목록을 호스팅 약속으로 여기지 않고 게이트웨이 제어, 플랫폼 서비스, 로컬 대시보드를 검토하세요.

핵심 제어

셀프 호스팅 게이트웨이에 기본 포함된 것.

핵심 제어

요청을 멈추지 않게

대상이 사용 불가하거나 할당량이 소진되면 OmniRoute가 다음 정상 대상을 선택합니다.

핵심 제어

대상 컨텍스트 압축

12개 엔진 파이프라인이 대상 컨텍스트를 15–95% 줄입니다. 문서화된 도구 집약 예시에서는 ~89% 줄었습니다.

핵심 제어

$0으로 시작

90+개 무료 티어와 56개의 반복 또는 키 없는 영구 무료 제공자. 키 없는 빠른 시작에는 신용카드가 필요 없습니다.

핵심 제어

35개 지원 통합

Claude Code, Codex, Cursor, Cline, Copilot, Antigravity 등 지원 클라이언트를 하나의 엔드포인트로 구성합니다.

핵심 제어

하나의 엔드포인트

/v1에서 OpenAI, Claude, Gemini, Responses API 요청을 받습니다.

핵심 제어

운영 제어

서킷 브레이커, 암호화된 자격 증명, MCP, A2A, 메모리, 가드레일, 평가가 셀프 호스팅 게이트웨이에 기본 포함됩니다.

기능

하나의 대시보드에서 요청 경로를 구성하세요.

폴백, 할당량, 압축, 메모리, MCP, A2A를 로컬 대시보드에서 구성합니다.

게이트웨이 제어

스마트 콤보

모델을 auto로 설정하거나 19가지 전략과 계층형 폴백으로 직접 콤보를 만드세요.

기본 제공 모드를 사용하거나 중요한 목표에 맞춰 19가지 전략을 조합하세요.

게이트웨이 제어

메모리

FTS5 키워드와 Qdrant 벡터 리콜을 갖춘 영구 대화 메모리.

게이트웨이 제어

3계층 복원력

제공자 브레이커, 연결 쿨다운, 모델 잠금이 가장 작은 유효 범위에서 장애를 격리합니다.

게이트웨이 제어

무료 할당량

90+개 무료 티어에 걸친 풀 중복 제거 회계.

공개된 무료 티어 용량, 중복 제거.

게이트웨이 제어

압축

도구 출력, 컨텍스트, 응답 스타일을 위한 12개의 조합 가능한 엔진.

대상 토큰을 15–95% 줄이세요.

게이트웨이 제어

MCP 서버

33개 스코프에 걸쳐 110개 게이트웨이 도구를 노출하는 내장 서버.

110개 도구 · 33개 스코프 · stdio / HTTP

게이트웨이 제어

A2A 프로토콜

6개 스킬을 갖춘 JSON-RPC 에이전트 서버.

6개 스킬 · JSON-RPC 2.0 · Agent Card

게이트웨이 제어

시맨틱 캐시

반복 요청은 캐시에서 반환될 수 있으며, 응답 헤더가 절감 내용을 알려줍니다.

X-OmniRoute-Cache: HIT

플랫폼 서비스

로컬 게이트웨이를 확장하세요.

내장 서비스

Bifrost, 9Router, CLIProxy를 관리형 사이드카로 실행하거나 전체 클러스터 프로필을 운영하세요.

내 지식을 컨텍스트에

Notion과 Obsidian을 MCP 기반 컨텍스트 소스로 연결합니다.

내장 가드레일

제공자 종속 없는 프롬프트 인젝션 검사, 선택형 PII 마스킹, 정규화된 안전 필터.

사용 목표

운영 분석과 함께 스트릭, 업적, 실시간 절감액을 추적합니다.

대시보드

구성과 운영 화면 예시를 확인하세요.

아래 값은 예시 데이터입니다. 로컬 대시보드에는 실제 제공자, 요청, 비용이 표시됩니다.

localhost:20128/dashboard예시 데이터
352연결된 제공자
90+사용 가능한 무료 티어
198이 예시에서 정상
  • Claude Code · OAuth · 라이브
  • Cerebras · 무료 · 라이브
  • Groq · 쿨다운 예시
  • NVIDIA NIM · 무료 · 라이브

OmniRoute by Cheaper Inference

OmniRoute 실행 방식을 선택하세요.

OmniRoute를 셀프 호스팅하거나, 호스팅형 비용 순위 게이트웨이인 Cheaper Inference를 사용하세요.