머릿말

본 문서는 종량제 LLM API 로 여러 모델을 사용할 수 있는 포탈을 구축하는 방법 안내합니다.

분야에 따라 LLM 응답의 품질이 다르며, 여러 LLM 모델을 사용하고자 하는 분들이 있습니다. 하지만 모두 구독하여 사용하기에는 비용의 문제가 발생합니다. 예를 들어 ChatGPT, Claude, Gemini 3개 서비스를 이용하고자 하는 경우 1인당 매달 60달러(8.5~9만원)를 지출해야 합니다.

본 문서는 

1. 여러 LLM API 를 사용한 만큼 지불하도록 설정하는 방법을 안내합니다.
2. LiteLLM Proxy 를 통해 다양한 LLM API 를 통합하는 방법을 안내합니다.
3. 통합된 API 를 호출하여 OpenWebUI 라는 하나의 웹 UI에서 여러 모델을 사용하는 방법을 안내합니다.

알림

본 문서는  한국과학기술정보연구원(KISTI) 의  과학기술연구망센터(KREONET) 에서 관리합니다.
다만, 현재 작성자가 1인이므로 사견이 반영되었다면 본 두 기관의 의견을 대변하지는 않음을 알아주셨으면 합니다.

본 문서를 추가/수정하고자 하는 KISTI 구성원은 연락 바랍니다. 수정 권한을 드리겠습니다.

본 문서에 대한 의견이 있으시면 msjang <<at>> kisti.re.kr 로 메일 부탁드립니다.

⛏️ 본 문서는 지속적으로 개선되는 문서이며, 작업중인 내용이 있을 수 있습니다. ⛏️

Special Thanks to

출연연 오픈소스 협의회 를 통해서 활용사례를 소개해 주신 한국원자력연구원 인공지능응용연구실 에 감사드립니다.