OmniRoute / Szybki start i wdrożenie

Uruchamiaj OmniRoute tam, gdzie masz kontrolę.

Zainstaluj pakiet, uruchom lokalne API i wybierz wspieraną metodę wdrożenia.

Szybki start

Zainstaluj, uruchom i połącz.

Zainstaluj pakiet, uruchom bramę i wskaż dowolnemu klientowi zgodnemu z OpenAI port 20128.

Step 1: Instalacja

Zainstaluj globalnie pakiet npm omniroute.

omniroute: install
$ npm install -g omnirouteadded 1 package

Step 2: Uruchomienie

Uruchom API i panel razem na porcie 20128.

omniroute: run
$ omniroute▸ dashboard ✓ http://localhost:20128/dashboard▸ api ...... ✓ serving on :20128

Step 3: Połącz swoje narzędzie

Użyj http://localhost:20128/v1; trasa auto bez klucza działa od razu po instalacji.

omniroute: connect
$ curl localhost:20128/v1/models✓ models listed

OmniRoute od Cheaper Inference

Wybierz, jak uruchamiasz OmniRoute.

Hostuj OmniRoute samodzielnie lub użyj Cheaper Inference, hostowanej bramy z rankingiem kosztów.