대표 글

Ollama 기반 LLM 서버의 동시 요청 병목을 분석하고 vLLM으로 전환해 동시 사용자 50명 수준까지 안정적으로 처리하도록 개선했습니다.

Code Place AI 조교 기능을 운영 클러스터에서 실행하기 위해 NVIDIA 드라이버, runtime, k3s containerd, RuntimeClass, device plugin 설정을 맞췄습니다.

Code Place 운영 중 WAL 증가로 시작된 디스크 부족 장애를 Longhorn replica 조정, CNPG 복구, multipathd 간섭 해결, 디스크 추가, WAL 상태 점검으로 복구했습니다.

WAL 폭주 이후 Longhorn·CNPG 복구 과정에서 발생한 볼륨 마운트 실패를 Kubernetes 이벤트, share-manager, ext4 메시지, multipathd 간섭 가능성으로 추적했습니다.

GRIT의 JWT 인증 필터 에러가 공통 응답이 아니라 Tomcat 500으로 내려오던 문제를 기준으로 Spring Security 필터 예외 처리 흐름을 정리했습니다.

UniSchedule의 멀티 인스턴스 환경에서 일부 사용자에게 채팅 메시지가 전달되지 않던 문제를 Redis Pub/Sub으로 해결했습니다.