OmniRoute / ความปลอดภัยและการควบคุมข้อมูล

ตัวควบคุมที่คุณอ่านซอร์สโค้ดได้

Guardrails บนเส้นทางคำขอ ตัวควบคุมเครือข่ายและตัวตน ข้อมูลรับรองที่เข้ารหัสในเครื่อง และสิ่งที่ยังตรวจสอบย้อนหลังได้

ดูตัวควบคุม ลอง Cheaper Inference กลับไปหน้าภาพรวม

ตัวควบคุม

เกตเวย์ตรวจสอบอะไร และตรงไหน

ตัวควบคุมทุกอย่างด้านล่างทำงานในโปรเซสที่คุณโฮสต์ ไม่มีส่วนใดขึ้นกับบัญชี Cheaper Inference

บนเส้นทางคำขอ

การตรวจสอบที่ทำงานก่อน prompt ออกจากเครื่อง และก่อนที่การตอบกลับจะถึงผู้เรียก

ป้องกัน prompt injection ในทุกคำขอที่กำหนดเส้นทาง
ปิดบังข้อมูลรับรองแบบเลือกเปิด ลบคีย์ที่รั่วทั้งสองทาง
ปิดบัง PII แบบเลือกเปิด
ตัวกรองความปลอดภัยแบบมาตรฐานเดียว ไม่ขึ้นกับนโยบายของผู้ให้บริการรายใด
guardrails ด้านภาพสำหรับอินพุตรูปภาพ

เครือข่ายและตัวตน

ตัวควบคุมว่าคำขอออกจากโฮสต์อย่างไร และมีหน้าตาอย่างไรบนสาย

ขอบเขตพร็อกซี: ทั่วทั้งระบบ ต่อผู้ให้บริการ ต่อการเชื่อมต่อ
พร็อกซี SOCKS5 และ HTTP(S)
การส่งข้อมูล TLS ที่รองรับ JA3/JA4 พร้อมโปรไฟล์ไคลเอนต์เฉพาะผู้ให้บริการ
เลือกขาออก IPv4 และ IPv6
ป้องกัน SSRF ที่บล็อกช่วงที่อยู่ส่วนตัวในการดึงข้อมูลขาออก
IP allowlist และ blocklist บนแดชบอร์ด

ข้อมูลรับรองและข้อมูลในเครื่อง

คีย์ ประวัติ และการใช้งานอยู่บนโฮสต์ที่คุณรัน ในฐานข้อมูลที่คุณเป็นเจ้าของ

ข้อมูลรับรองที่เข้ารหัสด้วย AES-256-GCM ใน SQLite ในเครื่อง
API key แบบจำกัดขอบเขต พร้อมข้อจำกัดด้านโมเดลและผู้ให้บริการ
ขีดจำกัดค่าใช้จ่าย USD และงบโทเค็นต่อคีย์
ปิดบังอีเมลบัญชี OAuth เปิดใช้เป็นค่าเริ่มต้น
ไม่ต้องมีบัญชี OmniRoute เพื่อรันเกตเวย์

การปฏิบัติการและการตรวจสอบ

สิ่งที่คุณย้อนดูได้ภายหลัง และใครได้รับอนุญาตให้ทำ

บันทึกตรวจสอบของผู้ดูแล กรองตามการกระทำ ผู้กระทำ และเป้าหมาย
บันทึกคำขอ กรองตามผู้ให้บริการ โมเดล บัญชี และคีย์
ล็อกอินผ่าน OIDC แบบเลือกใช้ โดยยังล็อกอินด้วยรหัสผ่านได้เสมอ
การรับเข้าแบบปรับตัว จัดคิวคำขอหนักแทนที่จะปฏิเสธ
ส่งออกและนำเข้าฐานข้อมูลเพื่อสำรองและย้ายระบบ

การเข้าถึงเครือข่าย

การกำหนดเส้นทางเครือข่ายและตัวควบคุมข้อมูลในเครื่อง

ขอบเขตพร็อกซีควบคุมการกำหนดเส้นทางเครือข่าย ส่วนการจัดเก็บในเครื่องเป็นหลักช่วยให้ข้อมูลปฏิบัติการอยู่บนเครื่องของคุณ

ขอบเขตพร็อกซีสามระดับ

กำหนดเส้นทางแบบทั่วทั้งระบบ ต่อผู้ให้บริการ หรือต่อการเชื่อมต่อแต่ละเส้น

ทั่วทั้งระบบ · ต่อผู้ให้บริการ · ต่อการเชื่อมต่อ
พร็อกซี SOCKS5 และ HTTP(S)
เชื่อมต่อกับตลาดพร็อกซี

ตัวควบคุมลายนิ้วมือ TLS และไคลเอนต์

จับคู่กับไคลเอนต์ของผู้ให้บริการที่รองรับ ลงถึงคุณลักษณะการส่งข้อมูลที่เลือกไว้

การส่งข้อมูลที่รองรับ JA3/JA4 ผ่าน wreq-js
โปรไฟล์ไคลเอนต์เฉพาะแต่ละผู้ให้บริการ
ตัวควบคุมขาออก IPv4 และ IPv6

เป็นส่วนตัวและอยู่ในเครื่องเป็นหลัก

คีย์ การใช้งาน และประวัติอยู่บนโฮสต์ที่คุณควบคุม

SQLite บนดิสก์ พร้อมข้อมูลรับรองที่เข้ารหัสด้วย AES-256-GCM
ไม่ต้องมีบัญชี OmniRoute
โฮสต์เองบนโครงสร้างพื้นฐานที่คุณเลือก

รัสเซียจีนอิหร่านคิวบาตุรกี

การแยกความล้มเหลว

แยกความล้มเหลวของผู้ให้บริการ การเชื่อมต่อ และโมเดลออกจากกัน

คีย์เสียหนึ่งอันไม่ควรทำให้ผู้ให้บริการทั้งรายล่ม โมเดลที่ถูกจำกัดไม่ควรทำให้การเชื่อมต่อทั้งเส้นล่ม

โมเดล ⊂ การเชื่อมต่อ ⊂ ผู้ให้บริการ

เซอร์กิตเบรกเกอร์ผู้ให้บริการเมื่อผู้ให้บริการทำงานผิดปกติ การกำหนดเส้นทางแบบคอมโบจะข้ามไปจนกว่าการทดสอบแบบ half-open จะสำเร็จ

คูลดาวน์การเชื่อมต่อพักคีย์หรือบัญชีเดียวชั่วคราว ขณะที่การเชื่อมต่ออื่นยังให้บริการต่อ

ล็อกโมเดลล็อกโมเดลที่ติด rate limit หรือใช้งานไม่ได้ ขณะที่โมเดลอื่นบนการเชื่อมต่อเดียวกันยังใช้ได้