2025_07_W27_주간업무 (양다원)

PDCA


전공교육

개발실습

부서교육

부서업무지원


PGrafana와 Prometheus 학습

기존 구축 완료된 Mattermost에 Notification 추가 구축,

Ollama와 Open Web UI를 이용해 LLM 올리기, 각 LLM의 구동 테스트




DGrafana와 Prometheus 학습

Ollama와 Light LLM을 Open Web UI를 이용해 웹 배포, 각 LLM 구동 테스트 진행, 

웹에 배포한 Light LLM과 Ollama의 하드웨어 사용량 측정을 위해 Grafana 추가 구축,

Node Exporter, Dcgm Exporter, Nvidia GPU Expoeter를 이용한 Grafana Dashboard 구축,

Crontab과 Dockerfile 를 이용한 각 프로그램의 백업 시스템 구축




C

Grafana와 Prometheus 학습

Ollama와 Light LLM을 Open Web UI를 이용해 웹 배포, 각 LLM 구동 테스트 진행, 

웹에 배포한 Light LLM과 Ollama의 하드웨어 사용량 측정을 위해 Grafana 추가 구축,

Node Exporter, Dcgm Exporter, Nvidia GPU Expoeter를 이용한 Grafana Dashboard 구축,

Crontab과 Dockerfile 를 이용한 각 프로그램의 백업 시스템 구축




A
Mattermost에 Notification Server 구축에는 성공했지만 개인 Private Key가 필요해 추후로 연기


일일회고

2025/06/30

  • Fact :  Mattermost-Docker에 Notification Server 붙이기, GPU가 탑재된 VM을 이용해 ollama로 LLM올리기
  • Feelings : Mattermost에 Notification 서버를 붙여보았지만 개인 Private Key를 사용해야 해서 추후로 미루었다.
  • Finding : GPU가 탑재된 Vm을 이용해 Ollama와 Open Web UI를 설치해서 LLM(llama, Hugging face)을 올려보았다.
  • Future Action Plan : 구축된 Ollama와 Open Web UI를 이용해 각 LLM 테스트 진행 및 문서화
  • Feedbacks

2025/07/01

  • Fact :  기존 ollama는 CPU만 사용했지만 GPU 사용으로 구조 변경, Light LLM을 이용한 LLM 웹 배포
  • Feelings : AI를 이용해서 작업하는건 처음이지만 재미있다.
  • Finding : ollama를 사용하여 LLM을 실행하면 세 개의 LLM까지 동시에 동작 가능했다, CPU 만으로도 실행이 가능하지만 속도가 느린 단점이 있고 GPU를 사용하면 훨씬 빠른 속도로 LLM 구동이 가능했다.
  • Future Action Plan : Light LLM을 구동할 때의 잔버그 해결 및 불완전한 LLM 연결 개선 
  • Feedbacks

2025/07/02

  • Fact : 기존 Open WebUI 환경은 Light LLM 연동해 시스템을 구현했지만, 오늘은 Ollama를 추가하여 더욱 다양한 LLM을 활용할 수 있는 환경을 구축, 또한 Grafana까지 연동하여 Prometheus를 데이터 시각화 작업을 위한 준비 완료
  • Feelings : LLM의 다양한 모델들을 테스트 하면서 LLM에도 생각보다 많은 종류가 있다는 것을 알았고 docker compose에 관한 이해도 전보다 더 높아졌다.
  • Finding : Open WebUI에 Light LLM, Ollama, Grafana 서비스를 연동시키는 방법
  • Future Action Plan : Grafana를 이용한 데이터 시각화 대시보드 구축
  • Feedbacks

2025/07/03

  • Fact :  기존 Mattermost에 스크립트를 만들어 crontab으로 매일 오전 9시에 실행되는 DB Daily Backup 기능을 구축, Open WebUI의 하드웨어 시스템과 GPU를 측정하기 위한 Grafana 대시보드 구축
  • Feelings : 오늘은 기존 구축했던 Mattermost와 Open WebUI에 기능을 더 추가해보았다.
  • Finding : crontab 사용법 학습 및 docker compose를 활용해 Prometheus에서 Grafana로 Data Source를 연동한 후 데이터를 시각화하는 방법 학습했다.
  • Future Action Plan : GPU Dashboard 업그레이드, LLM 구축 과정 문서화
  • Feedbacks

2025/07/04

  • Fact : 기존 Grafana 대시보드에 GPU 정보를 상세히 표시하기 위해 Nvidia GPU Exporter를 이용해 기능을 확장, 데이버 백업을 위해 Crontab으로 백업 시스템 구축
  • Feelings : 원래 Nvidia GPU Exporter 대신 DCGM Exporter를 사용하려 했지만, DCGM의 데이터 항목이 부족해 Nvidia GPU Exporter를 생성해 사용했다.
  • Finding : Nvidia GPU Exporter를 이용한 Grafana Nvidia GPU Metrics Dashboard 구축, Crontab을 이용한 Grafana 데이터 백업 시스템 구축
  • Future Action Plan : Exporter을 이용한 Grafana Dashboard 구축 과정 문서화
  • Feedbacks


Memo