공공공공기관 A (사명 비공개)·2025.06 ~ 2025.09
AI Kubernetes 플랫폼 구축 — RKE2 기반 LLM 모델 서빙 (1)
RKE2vLLMGPT-OSSGemmaBGE-M3
- ●RKE2 기반 Kubernetes 클러스터 신규 설치 및 AI 신규 프로젝트 인프라 지원
- ●vLLM 기반 모델 서빙 환경 구축 — GPT-OSS·Gemma·BGE-M3·Reranker 컨테이너 배포 및 운영
- ●서비스 요구사항에 맞는 LLM 옵션(파라미터 규모·컨텍스트 길이 등) 파악 및 적용 지원