하이브리드 구조로 개발·배포·운영 통합…AI 서비스 안정성·효율성 강화

허설 LG유플러스 MLOps개발팀 기술책임이 발표하고 있다. 사진=LG유플러스
 

LG유플러스가 아마존웹서비스(AWS)와 협력해 AI 인프라 운영 자동화 기반의 플랫폼 구축 사례를 공개하며 서비스 경쟁력 강화에 나섰다.

LG유플러스는 AWS가 주최한 ‘2026 Modern Agentic Applications Day’ 행사에서 AI 모델을 실제 서비스로 안정적으로 운영하기 위한 플랫폼 구축 경험을 발표했다고 밝혔다. 이번 사례는 생성형 AI와 에이전트 기술을 활용한 인프라 운영 자동화에 초점을 맞췄다.

회사는 기존 온프레미스 중심의 AI 개발 환경을 클라우드와 연계한 하이브리드 구조로 전환하고, AI 개발부터 서비스 운영까지 전 과정을 통합한 플랫폼을 구축했다. 이를 통해 개발과 운영 간 단절을 줄이고, 반복 작업을 최소화했다.

특히 데이터 수집, 학습, 평가, 배포, 운영에 이르는 전 과정을 하나의 파이프라인으로 연결해 ‘모델 준비 상태’를 유지할 수 있도록 설계한 것이 핵심이다. 개발자와 운영자가 동일한 환경에서 AI를 관리함으로써 서비스 전환 속도와 품질을 동시에 확보했다.

플랫폼은 AWS의 관리형 쿠버네티스 서비스 ‘아마존 EKS’를 기반으로 구축됐다. LG유플러스는 자체 온프레미스 GPU 인프라를 클라우드 환경과 통합하고, 중앙에서 관리되는 구조를 적용해 인프라 운영 부담을 낮췄다.

GPU 자원 활용 방식도 개선했다. 기존 장비 단위 할당에서 벗어나 수요에 따라 유연하게 배분하는 구조를 도입해 자원 활용도를 높이고 대기 시간을 줄였다.

LG유플러스는 이번 플랫폼 구축을 통해 AI를 단순 기술이 아닌 실제 서비스로 안정적으로 운영할 수 있는 기반을 마련했다는 설명이다. 인프라 관리 부담을 줄이는 동시에 서비스 품질과 운영 안정성을 지속적으로 개선할 수 있는 환경을 구축했다.

권기덕 LG유플러스 AX엔지니어링Lab장은 “AI 개발과 운영 전 과정을 아우르는 엔지니어링 플랫폼 역량을 강화하고 있다”며 “AWS와 협력을 통해 AI 서비스 품질과 안정성을 지속적으로 높여 나가겠다”고 밝혔다.

<문화경제 황수오 기자>