OmniRoute / Quick start e deployment

Esegui OmniRoute dove lo controlli tu.

Installa il pacchetto, avvia l'API locale e scegli un metodo di deployment supportato.

Quick start

Installa, avvia e connetti.

Installa il pacchetto, avvia il gateway, poi punta qualsiasi client compatibile con OpenAI alla porta 20128.

Step 1: Installa

Installa il pacchetto npm omniroute a livello globale.

omniroute: install
$ npm install -g omnirouteadded 1 package

Step 2: Avvia

Avvia API e dashboard insieme sulla porta 20128.

omniroute: run
$ omniroute▸ dashboard ✓ http://localhost:20128/dashboard▸ api ...... ✓ serving on :20128

Step 3: Connetti il tuo tool

Usa http://localhost:20128/v1; la route auto senza chiave funziona su un'installazione nuova.

omniroute: connect
$ curl localhost:20128/v1/models✓ models listed

OmniRoute di Cheaper Inference

Scegli come eseguire OmniRoute.

Fai self-hosting di OmniRoute oppure usa Cheaper Inference per un gateway hosted ordinato per costo.