OmniRoute / Security at data control

Mga control na mababasa mo ang source.

Mga guardrail sa request path, network at identity control, encrypted na local credential, at kung ano ang nananatiling auditable pagkatapos.

Suriin ang mga control Subukan ang Cheaper Inference Bumalik sa overview

Mga control

Ano ang sinusuri ng gateway, at saan.

Tumatakbo sa process na hino-host mo ang bawat control sa ibaba. Wala sa mga ito ang umaasa sa Cheaper Inference account.

Sa request path

Mga check na tumatakbo bago umalis ang prompt sa machine at bago umabot ang response sa caller.

Prompt-injection guard sa bawat na-route na request
Opt-in na credential masking na nagre-redact ng mga tumagas na key sa magkabilang direksyon
Opt-in na PII redaction
Normalized na safety filter na hindi umaasa sa policy ng isang provider
Vision guardrail para sa mga image input

Network at identity

Mga control sa kung paano umaalis ang mga request sa host at kung ano ang anyo nila sa wire.

Mga proxy scope: global, per provider, per connection
SOCKS5 at HTTP(S) proxy
JA3/JA4-capable na TLS transport na may provider-specific na client profile
Pagpili ng IPv4 at IPv6 egress
SSRF guard na humaharang sa mga private address range sa outbound fetch
Mga IP allowlist at blocklist sa dashboard

Mga credential at local data

Nananatili ang mga key, history at usage sa host na pinatatakbo mo, sa database na pag-aari mo.

AES-256-GCM encrypted na credential sa local SQLite
Mga scoped API key na may model at provider restriction
Per-key na USD spend limit at token budget
OAuth account email masking, naka-on by default
Hindi kailangan ng OmniRoute account para patakbuhin ang gateway

Operations at audit

Kung ano ang puwede mong i-reconstruct pagkatapos, at kung sino ang pinahintulutang gawin ito.

Administrative audit log na na-filter ayon sa action, actor at target
Mga request log na na-filter ayon sa provider, model, account at key
Opsyonal na OIDC login gate, laging available ang password login
Adaptive admission na nagpipila ng mabibigat na request sa halip na i-fail ang mga ito
Database export at import para sa backup at migration

Saklaw ng network

Network routing at mga local data control.

Kinokontrol ng mga proxy scope ang network routing habang pinananatili ng local-first na storage ang operational data sa machine mo.

Tatlong proxy scope

Mag-route nang global, per provider o per indibidwal na connection.

Global · per-provider · per-connection
SOCKS5 at HTTP(S) proxy
Integration sa proxy marketplace

Mga TLS at client fingerprint control

Itugma ang mga suportadong provider client hanggang sa piling transport characteristic.

JA3/JA4-capable na transport sa pamamagitan ng wreq-js
Provider-specific na client profile
Mga IPv4 at IPv6 egress control

Pribado at local-first

Nananatili sa host na kontrolado mo ang mga key, usage at history.

SQLite sa disk na may AES-256-GCM encrypted na credential
Hindi kailangan ng OmniRoute account
I-self-host sa infrastructure na pipiliin mo

RussiaChinaIranCubaTürkiye

Failure isolation

I-isolate ang mga failure ng provider, connection at model.

Hindi dapat pumatay ng provider ang isang sirang key. Hindi dapat pumatay ng connection ang isang limitadong model.

model ⊂ connection ⊂ provider

Provider circuit breakerKapag unhealthy ang isang provider, lalaktawan ito ng combo routing hanggang magtagumpay ang half-open probe.

Connection cooldownI-cool down ang isang key o account habang patuloy na nagse-serve ang mga sibling connection.

Model lockoutI-lock ang isang rate-limited o hindi available na model habang nananatiling available ang ibang model sa connection.