5.2. Azure API 설정 - DeepSeek-R1

DeepSeek 가 오픈소스로 제공하는 LLM 을 Azure 에서 사용하도록 설정하는 방법

서버리스 서비스를 배포(depoly)하며 api_base URL 과 키를 생성하여 설정함

모델 카탈로그 방문

본 예제에서는 DeepSeek R1 을 방문

https://ai.azure.com/explore/models/DeepSeek-R1/version/1/registry/azureml-deepseek

배포

다음 순서를 따라 생성

DeepSeek-R1 서버리스 API는 (eastus, eastus2, westus, westus3, northcentralus, southcentralus) 지역에서만 사용 가능 (2025.02.01 기준)

키 확인

litellm_config.yml 수정

os.environ/XXXX 은 .env 파일에 선언된 XXXX 변수의 값을 사용하겠다는 의미

api_version 버전은 model_version 이 아님. 2024-08-01-preview 으로 둘 것

상세한 옵션은 다음 문서를 참고할 것
https://docs.litellm.ai/docs/providers/azure_ai

model_list:

  - model_name: deepseek-r1-azure
    litellm_params:
      model: azure_ai/deepseek-r1
      api_base: https://DeepSeek-R1-xxxx.westus.models.ai.azure.com
      api_version: "2024-08-01-preview"
      api_key: xxxx