OmniRoute / Sécurité et contrôle des données

Des contrôles dont vous pouvez lire le code source.

Garde-fous sur le chemin de la requête, contrôles réseau et identité, identifiants locaux chiffrés, et ce qui reste auditable ensuite.

Examiner les contrôles Essayer Cheaper Inference Retour à l'aperçu

Contrôles

Ce que la passerelle vérifie, et où.

Chaque contrôle ci-dessous s'exécute dans le processus que vous hébergez. Aucun ne dépend d'un compte Cheaper Inference.

Sur le chemin de la requête

Des vérifications avant qu'un prompt quitte la machine et avant qu'une réponse atteigne l'appelant.

Garde anti-injection de prompt sur chaque requête routée
Masquage optionnel des identifiants qui caviarde les clés divulguées dans les deux sens
Masquage optionnel des données personnelles
Filtres de sécurité normalisés qui ne dépendent pas de la politique d'un seul fournisseur
Garde-fous vision pour les images en entrée

Réseau et identité

Contrôle de la façon dont les requêtes quittent l'hôte et de leur apparence sur le réseau.

Périmètres de proxy : global, par fournisseur, par connexion
Proxys SOCKS5 et HTTP(S)
Transport TLS compatible JA3/JA4 avec profils client propres à chaque fournisseur
Sélection de sortie IPv4 et IPv6
Garde SSRF qui bloque les plages d'adresses privées sur les requêtes sortantes
Listes d'autorisation et de blocage d'IP sur le tableau de bord

Identifiants et données locales

Clés, historique et usage restent sur l'hôte que vous exploitez, dans une base qui vous appartient.

Identifiants chiffrés AES-256-GCM dans SQLite en local
Clés API à portée limitée avec restrictions de modèles et de fournisseurs
Plafonds de dépense en USD et budgets de tokens par clé
Masquage de l'e-mail des comptes OAuth, activé par défaut
Aucun compte OmniRoute requis pour exécuter la passerelle

Exploitation et audit

Ce que vous pouvez reconstituer après coup, et qui avait le droit de le faire.

Journal d'audit administratif filtré par action, acteur et cible
Journaux de requêtes filtrés par fournisseur, modèle, compte et clé
Connexion OIDC optionnelle, avec connexion par mot de passe toujours disponible
Admission adaptative qui met en file les requêtes lourdes au lieu de les rejeter
Export et import de la base pour sauvegarde et migration

Portée réseau

Routage réseau et contrôle des données locales.

Les périmètres de proxy contrôlent le routage réseau tandis que le stockage local d'abord garde les données opérationnelles sur votre machine.

Trois périmètres de proxy

Routez globalement, par fournisseur ou par connexion individuelle.

Global · par fournisseur · par connexion
Proxys SOCKS5 et HTTP(S)
Intégration d'une marketplace de proxys

Contrôles d'empreinte TLS et client

Imitez les clients des fournisseurs pris en charge jusqu'à certaines caractéristiques de transport.

Transport compatible JA3/JA4 via wreq-js
Profils client propres à chaque fournisseur
Contrôles de sortie IPv4 et IPv6

Privé et local d'abord

Clés, usage et historique restent sur l'hôte que vous contrôlez.

SQLite sur disque avec identifiants chiffrés AES-256-GCM
Aucun compte OmniRoute requis
Auto-hébergez sur l'infrastructure de votre choix

RussieChineIranCubaTürkiye

Isolation des pannes

Isolez les pannes de fournisseur, de connexion et de modèle.

Une mauvaise clé ne doit pas tuer un fournisseur. Un modèle limité ne doit pas tuer une connexion.

modèle ⊂ connexion ⊂ fournisseur

Disjoncteur de fournisseurQuand un fournisseur est défaillant, le routage combo le saute jusqu'à ce qu'une sonde semi-ouverte réussisse.

Refroidissement de connexionMettez une clé ou un compte en pause pendant que les connexions voisines continuent de servir.

Verrouillage de modèleVerrouillez un modèle limité ou indisponible pendant que les autres modèles de la connexion restent disponibles.