OmniRoute / सिक्योरिटी और डेटा कंट्रोल

ऐसे कंट्रोल जिनका सोर्स आप पढ़ सकते हैं।

रिक्वेस्ट पाथ पर गार्डरेल, नेटवर्क और आइडेंटिटी कंट्रोल, एन्क्रिप्टेड लोकल क्रेडेंशियल, और बाद में क्या ऑडिट करने योग्य रहता है।

कंट्रोल

गेटवे क्या जाँचता है, और कहाँ।

नीचे का हर कंट्रोल आपके होस्ट किए प्रोसेस में चलता है। इनमें से कुछ भी Cheaper Inference अकाउंट पर निर्भर नहीं।

रिक्वेस्ट पाथ पर

जाँचें जो प्रॉम्प्ट के मशीन से निकलने और रिस्पॉन्स के कॉलर तक पहुँचने से पहले चलती हैं।

  • हर रूटेड रिक्वेस्ट पर प्रॉम्प्ट-इंजेक्शन गार्ड
  • ऑप्ट-इन क्रेडेंशियल मास्किंग जो दोनों दिशाओं में लीक हुई कीज़ रिडैक्ट करती है
  • ऑप्ट-इन PII रिडैक्शन
  • नॉर्मलाइज़्ड सेफ़्टी फ़िल्टर जो किसी एक प्रोवाइडर की पॉलिसी पर निर्भर नहीं
  • इमेज इनपुट के लिए विज़न गार्डरेल

नेटवर्क और आइडेंटिटी

रिक्वेस्ट होस्ट से कैसे निकलती हैं और वायर पर कैसी दिखती हैं, इस पर कंट्रोल।

  • प्रॉक्सी स्कोप: ग्लोबल, प्रति प्रोवाइडर, प्रति कनेक्शन
  • SOCKS5 और HTTP(S) प्रॉक्सी
  • प्रोवाइडर-विशिष्ट क्लाइंट प्रोफ़ाइल के साथ JA3/JA4-सक्षम TLS ट्रांसपोर्ट
  • IPv4 और IPv6 इग्रेस चयन
  • SSRF गार्ड जो आउटबाउंड फ़ेच पर प्राइवेट एड्रेस रेंज ब्लॉक करता है
  • डैशबोर्ड पर IP अलाउलिस्ट और ब्लॉकलिस्ट

क्रेडेंशियल और लोकल डेटा

कीज़, हिस्ट्री और यूसेज आपके होस्ट पर, आपके अपने डेटाबेस में रहती हैं।

  • लोकल SQLite में AES-256-GCM एन्क्रिप्टेड क्रेडेंशियल
  • मॉडल और प्रोवाइडर प्रतिबंधों के साथ स्कोप्ड API कीज़
  • प्रति-की USD खर्च सीमा और टोकन बजट
  • OAuth अकाउंट ईमेल मास्किंग, डिफ़ॉल्ट रूप से चालू
  • गेटवे चलाने के लिए OmniRoute अकाउंट की ज़रूरत नहीं

ऑपरेशन और ऑडिट

बाद में आप क्या रीकंस्ट्रक्ट कर सकते हैं, और किसे क्या करने की अनुमति थी।

  • एक्शन, एक्टर और टारगेट से फ़िल्टर होने वाला एडमिन ऑडिट लॉग
  • प्रोवाइडर, मॉडल, अकाउंट और की से फ़िल्टर होने वाले रिक्वेस्ट लॉग
  • वैकल्पिक OIDC लॉगिन गेट, पासवर्ड लॉगिन हमेशा उपलब्ध
  • अडैप्टिव एडमिशन जो भारी रिक्वेस्ट को फ़ेल करने के बजाय कतार में रखता है
  • बैकअप और माइग्रेशन के लिए डेटाबेस एक्सपोर्ट और इम्पोर्ट

नेटवर्क पहुँच

नेटवर्क रूटिंग और लोकल डेटा कंट्रोल।

प्रॉक्सी स्कोप नेटवर्क रूटिंग कंट्रोल करते हैं जबकि लोकल-फ़र्स्ट स्टोरेज ऑपरेशनल डेटा आपकी मशीन पर रखता है।

तीन प्रॉक्सी स्कोप

ग्लोबली, प्रति प्रोवाइडर या प्रति कनेक्शन रूट करें।

  • ग्लोबल · प्रति-प्रोवाइडर · प्रति-कनेक्शन
  • SOCKS5 और HTTP(S) प्रॉक्सी
  • प्रॉक्सी मार्केटप्लेस इंटीग्रेशन

TLS और क्लाइंट फ़िंगरप्रिंट कंट्रोल

सपोर्टेड प्रोवाइडर क्लाइंट्स से चुनी गई ट्रांसपोर्ट विशेषताओं तक मैच करें।

  • wreq-js के ज़रिए JA3/JA4-सक्षम ट्रांसपोर्ट
  • प्रोवाइडर-विशिष्ट क्लाइंट प्रोफ़ाइल
  • IPv4 और IPv6 इग्रेस कंट्रोल

प्राइवेट और लोकल-फ़र्स्ट

कीज़, यूसेज और हिस्ट्री आपके कंट्रोल वाले होस्ट पर रहती हैं।

  • डिस्क पर SQLite, AES-256-GCM एन्क्रिप्टेड क्रेडेंशियल के साथ
  • OmniRoute अकाउंट की ज़रूरत नहीं
  • अपनी चुनी इन्फ़्रास्ट्रक्चर पर सेल्फ़-होस्ट करें
रूसचीनईरानक्यूबातुर्किये

फ़ेल्योर आइसोलेशन

प्रोवाइडर, कनेक्शन और मॉडल फ़ेल्योर को अलग रखें।

एक ख़राब की पूरे प्रोवाइडर को नहीं गिराना चाहिए। एक लिमिटेड मॉडल पूरे कनेक्शन को नहीं गिराना चाहिए।

मॉडल ⊂ कनेक्शन ⊂ प्रोवाइडर
प्रोवाइडर सर्किट ब्रेकरजब कोई प्रोवाइडर अनहेल्दी हो, कॉम्बो रूटिंग उसे तब तक छोड़ देती है जब तक हाफ़-ओपन प्रोब सफल न हो।
कनेक्शन कूलडाउनएक की या अकाउंट को कूल डाउन करें जबकि बाकी कनेक्शन सर्व करते रहें।
मॉडल लॉकआउटएक रेट-लिमिटेड या अनुपलब्ध मॉडल को लॉक करें जबकि कनेक्शन के बाकी मॉडल उपलब्ध रहें।

OmniRoute by Cheaper Inference

चुनें कि आप OmniRoute कैसे चलाएँगे।

OmniRoute सेल्फ़-होस्ट करें, या होस्टेड कॉस्ट-रैंक्ड गेटवे के लिए Cheaper Inference इस्तेमाल करें।