5.3. OpenAI API 설정

OpenAI 가 제공하는 LLM 을 OpenAI 에서 사용하도록 설정하는 방법

API 키 생성

https://platform.openai.com/settings/api-keys

litellm_config.yml 수정

os.environ/XXXX 은 .env 파일에 선언된 XXXX 변수의 값을 사용하겠다는 의미

상세한 옵션은 다음 문서를 참고할 것
https://docs.litellm.ai/docs/providers/openai

litellm_config.yml

model_list:

  - model_name: gpt-3.5-turbo
    litellm_params:
      model: openai/gpt-3.5-turbo
      api_key: os.environ/OPENAI_API_KEY

  - model_name: gpt-3.5-turbo-instruct
    litellm_params:
      model: text-completion-openai/gpt-3.5-turbo-instruct
      api_key: os.environ/OPENAI_API_KEY