1. 종량제 LLM API
왜 종량제로 사용해야 하는가?
분야에 따라 LLM 응답의 품질이 다르기 때문에 LLM 을 골라 써야 함
대표 3가지 서비스 가입시 매달 60달러(8.5~9만원) 비용 발생
종량제 사용시 사용한 만큼만 과금
| LLM Provider | Personal | Team |
|---|---|---|
| ChatGPT | $20/month | $25/month |
| Claude | $18/month | $25/month |
| Gemini Advanced | $20/month | $20/month |
API 가격 비교
LLM 모델 제조사와 CSP(클라우드 서비스 사업자)의 API 제공 가격이 동일함 (2025.01.22 기준)
OpenAI
https://openai.com/api/pricing/
https://azure.microsoft.com/en-us/pricing/details/cognitive-services/openai-service/
| Price per 1M Tokens | OpenAI | Azure OpenAI |
|---|---|---|
| GPT-4o | Input: $2.50 | 동일 |
Claude
https://www.anthropic.com/pricing#anthropic-api
https://aws.amazon.com/ko/bedrock/pricing/
| Price per 1M Tokens | Anthropic | AWS |
|---|---|---|
Claude 3.5 Sonnet | Input: $3 | 동일 |
모델별 가격
LiteLLM 에서 지원하는 모델의 비용 검색
2025.02.02. 기준 자주 사용되는 모델의 비용
| Model | LLM Provider | API Provider | Input Price (per 1M Token) | Output Price (per 1M Token) |
|---|---|---|---|---|
| gpt-4o | OpenAI | Azure | $2.50 | $10 |
| gpt-4o-mini | OpenAI | Azure | $0.15 | $0.60 |
| o1-mini | OpenAI | Azure | $3.30 | $13.20 |
| o1 | OpenAI | Azure | $15 | $60 |
| deepseek-r1 | DeepSeek | Azure | ||
| claude-3-haiku | Anthropic | AWS | $0.25 | $1.25 |
| claude-3.5-haiku | Anthropic | AWS | $0.80 | $4 |
| claude-3-sonnet | Anthropic | AWS | $3 | $15 |
| claude-3.5-sonnet | Anthropic | AWS | $3 | $15 |
| claude-3.5-sonnet-v2 | Anthropic | AWS | $3 | $15 |
| claude-3-opus | Anthropic | AWS | $15 | $75 |
| llama3.2-1b-instruct | Meta | AWS | $0.10 | $0.10 |
| llama3.2-3b-instruct | Meta | AWS | $0.15 | $0.15 |
| llama3.2-11b-instruct | Meta | AWS | $0.16 | $0.16 |
| llama3.2-90b-instruct | Meta | AWS | $0.72 | $0.72 |
mistral-7b-instruct | Mistral AI | AWS | $0.15 | $0.20 |
| mistral-small-2402 | Mistral AI | AWS | $1 | $3 |
| mistral-large-2402 | Mistral AI | AWS | $4 | $12 |
| gemini-1.5-flash | $0.075 | $0.30 | ||
| gemini-1.5-flash-8b | $0.0375 | $0.15 | ||
| gemini-1.5-pro | $1.25 | $5 |