OmniRoute / Sicherheit und Datenkontrolle

Kontrollen, deren Quellcode du lesen kannst.

Guardrails auf dem Anfragepfad, Netzwerk- und Identitätskontrollen, verschlüsselte lokale Zugangsdaten und was danach auditierbar bleibt.

Kontrollen prüfen Cheaper Inference testen Zurück zur Übersicht

Kontrollen

Was das Gateway prüft, und wo.

Jede Kontrolle unten läuft in dem Prozess, den du hostest. Nichts davon hängt von einem Cheaper-Inference-Konto ab.

Auf dem Anfragepfad

Prüfungen, die laufen, bevor ein Prompt den Rechner verlässt und bevor eine Antwort den Aufrufer erreicht.

Prompt-Injection-Schutz bei jeder gerouteten Anfrage
Optionale Zugangsdaten-Maskierung, die geleakte Schlüssel in beide Richtungen schwärzt
Optionale PII-Schwärzung
Normalisierte Sicherheitsfilter, die nicht von der Richtlinie eines Anbieters abhängen
Vision-Guardrails für Bildeingaben

Netzwerk und Identität

Kontrolle darüber, wie Anfragen den Host verlassen und wie sie auf der Leitung aussehen.

Proxy-Scopes: global, pro Anbieter, pro Verbindung
SOCKS5- und HTTP(S)-Proxys
JA3/JA4-fähiger TLS-Transport mit anbieterspezifischen Client-Profilen
IPv4- und IPv6-Egress-Auswahl
SSRF-Schutz, der private Adressbereiche bei ausgehenden Fetches blockiert
IP-Allowlists und -Blocklists im Dashboard

Zugangsdaten und lokale Daten

Schlüssel, Verlauf und Nutzung bleiben auf deinem Host, in einer Datenbank, die dir gehört.

AES-256-GCM-verschlüsselte Zugangsdaten in lokalem SQLite
Eingeschränkte API-Schlüssel mit Modell- und Anbieterbeschränkungen
USD-Ausgabenlimits und Token-Budgets pro Schlüssel
Maskierung der OAuth-Konto-E-Mail, standardmäßig aktiv
Kein OmniRoute-Konto nötig, um das Gateway zu betreiben

Betrieb und Audit

Was du im Nachhinein rekonstruieren kannst, und wer es tun durfte.

Administratives Audit-Log, filterbar nach Aktion, Akteur und Ziel
Request-Logs, filterbar nach Anbieter, Modell, Konto und Schlüssel
Optionales OIDC-Login-Gate, Passwort-Login bleibt immer verfügbar
Adaptive Zulassung, die schwere Anfragen einreiht statt abzulehnen
Datenbank-Export und -Import für Backup und Migration

Netzwerkreichweite

Netzwerk-Routing und lokale Datenkontrolle.

Proxy-Scopes steuern das Netzwerk-Routing, während Local-First-Speicherung Betriebsdaten auf deinem Rechner hält.

Drei Proxy-Scopes

Global, pro Anbieter oder pro einzelner Verbindung routen.

Global · pro Anbieter · pro Verbindung
SOCKS5- und HTTP(S)-Proxys
Proxy-Marketplace-Integration

TLS- und Client-Fingerprint-Kontrollen

Unterstützte Anbieter-Clients bis zu ausgewählten Transportmerkmalen nachbilden.

JA3/JA4-fähiger Transport über wreq-js
Anbieterspezifische Client-Profile
IPv4- und IPv6-Egress-Kontrollen

Privat und Local-First

Schlüssel, Nutzung und Verlauf bleiben auf dem Host, den du kontrollierst.

SQLite auf der Festplatte mit AES-256-GCM-verschlüsselten Zugangsdaten
Kein OmniRoute-Konto erforderlich
Self-Hosting auf Infrastruktur deiner Wahl

RusslandChinaIranKubaTürkei

Fehlerisolation

Anbieter-, Verbindungs- und Modellfehler isolieren.

Ein defekter Schlüssel darf keinen Anbieter lahmlegen. Ein limitiertes Modell keine Verbindung.

Modell ⊂ Verbindung ⊂ Anbieter

Provider-Circuit-BreakerIst ein Anbieter ungesund, überspringt das Combo-Routing ihn, bis eine Half-Open-Probe erfolgreich ist.

Verbindungs-CooldownEinen Schlüssel oder ein Konto abkühlen lassen, während Geschwisterverbindungen weiter bedienen.

Modell-LockoutEin rate-limitiertes oder nicht verfügbares Modell sperren, während andere Modelle der Verbindung verfügbar bleiben.