OmniRoute / Quick start at deployment

Patakbuhin ang OmniRoute kung saan mo ito kontrolado.

I-install ang package, simulan ang local API at pumili ng suportadong deployment method.

Quick start

I-install, patakbuhin at ikonekta.

I-install ang package, ilunsad ang gateway, pagkatapos ituro ang anumang OpenAI-compatible na client sa port 20128.

Step 1: I-install

I-install ang omniroute npm package nang global.

omniroute: install
$ npm install -g omnirouteadded 1 package

Step 2: Patakbuhin

Ilunsad ang API at dashboard nang magkasama sa port 20128.

omniroute: run
$ omniroute▸ dashboard ✓ http://localhost:20128/dashboard▸ api ...... ✓ serving on :20128

Step 3: Ikonekta ang tool mo

Gamitin ang http://localhost:20128/v1; gumagana ang keyless auto route sa bagong install.

omniroute: connect
$ curl localhost:20128/v1/models✓ models listed

OmniRoute by Cheaper Inference

Piliin kung paano mo patatakbuhin ang OmniRoute.

I-self-host ang OmniRoute, o gamitin ang Cheaper Inference para sa hosted na cost-ranked gateway.