6. 로컬 서비스 실행 및 초기 설정


Docker 서비스 구동

# docker compose up -d

# docker ps -a
IMAGE                                 PORTS                    NAMES
postgres                              5432/tcp                 litellm_db
ghcr.io/open-webui/open-webui:main    0.0.0.0:3000->8080/tcp   open-webui
ghcr.io/berriai/litellm:main-latest   0.0.0.0:4000->4000/tcp   litellm
prom/prometheus                       0.0.0.0:9090->9090/tcp   litellm_prom


LiteLLM 접속

http://YOUR_IP:4000/ui 접속

  • ID: admin
  • PW: .env 안에 기록해 둔 LITELLM_MASTER_KEY


Models → health Models → run health 클릭


OpenWebUI 접속 및 초기 설정

http://YOUR_IP:8080 접속

제일 처음 접속한 사람의 계정이 관리가 계정이 됨


관리자 패널 접속

http://YOUR_IP:8080/admin/users


회원가입 활성화

설정 → 일반

  • 새 회원가입 활성화 : on
  • 기본 사용자 역할 : 사용자


모델 사용 권한

설정 → 모델

각각의 모델마다 연필모양 클릭

Visibility → Public → 저장 클릭