GPU 증설 대신 자원 연결 재설계… 연말 차세대 AI DC 아키텍처 공개 목표

MWC26 SKT 미팅룸에서 기념 촬영 중인 정석근 SKT AI CIC장(왼쪽)과 정명수 파네시아 대표. 사진=SK텔레콤
 

SK텔레콤이 컴퓨팅 자원 연결 전문기업 파네시아와 손잡고 AI 데이터센터 구조 혁신에 나선다. 고도화되는 AI 모델로 메모리 수요가 급증하는 상황에서 GPU를 단순 증설하는 대신, 자원 연결 방식을 바꿔 성능과 비용 효율을 동시에 개선하겠다는 전략이다.

SK텔레콤은 스페인 바르셀로나에서 열린 MWC26에서 파네시아와 ‘CXL 기반 차세대 AI 데이터센터 아키텍처’ 공동 개발을 위한 업무협약을 체결했다고 4일 밝혔다. 핵심은 CXL 기술을 활용해 불필요한 장비 증설 없이 AI 처리 효율을 높이고 데이터센터 경제성을 강화하는 데 있다.

파네시아는 CXL 기반 패브릭 링크 스위치와 링크 컨트롤러 등 링크 반도체를 개발하는 국내 스타트업이다. CXL은 CPU·GPU·메모리를 초고속·저지연으로 연결하는 차세대 인터페이스 표준으로, 서버 단위로 묶여 있던 컴퓨팅 자원을 유연하게 확장·활용할 수 있게 한다.

기존 AI 데이터센터는 CPU·GPU·메모리가 서버 단위로 고정돼 특정 자원이 남아도 다른 서버에서 활용하기 어려웠다. 특히 메모리 부족 시 실제로는 필요하지 않은 GPU까지 함께 늘려야 하는 구조적 비효율이 반복됐다. 이는 GPU 활용률 저하와 구축·운영 비용 상승으로 이어졌다.

양사는 CXL을 적용해 서버 내부에 묶여 있던 자원 연결 범위를 랙 단위까지 확장한다. CPU·GPU·메모리를 필요에 따라 유연하게 조합해 선택적으로 활용하는 구조다. 이를 통해 자원 활용률을 높이고 과잉 투자를 줄이겠다는 구상이다.

자원 간 연결 방식도 개선한다. 그간 AI 데이터센터의 GPU 협업 연산은 이더넷 등 범용 네트워크를 통해 이뤄졌으며, 데이터 복사와 소프트웨어 개입으로 지연이 발생했다. 양사는 범용 네트워크 대신 CXL 기반 연결을 적용해 네트워크를 거치지 않는 고속 직접 연결 구조를 구현할 계획이다. 데이터 전송 단계를 단순화해 연산 효율을 끌어올리겠다는 것이다.

이번 협력에서 SK텔레콤은 대규모 AI 데이터센터 구축·운영 경험과 AI 모델 상용화 역량을 바탕으로 실제 환경에 최적화된 구조 설계를 주도한다. 파네시아는 링크 반도체 기술을 통해 연결 구조를 랙 이상 단위로 확장하는 역할을 맡는다.

양사는 실제 AI 모델을 구동해 GPU·메모리 활용률, 지연시간, 처리량 등을 종합 검증한 뒤 연말까지 차세대 AI 데이터센터 구조를 공개할 예정이다. 이후 대형 AI 데이터센터 환경에서 실증을 거쳐 상용화를 추진한다는 계획이다.

정석근 SK텔레콤 AI CIC장은 “AI 데이터센터 경쟁력은 GPU 성능을 넘어 메모리와 데이터 흐름을 포함한 시스템 최적화에 달려 있다”며 “연산 성능 향상에도 데이터 이동이 이를 따라가지 못하는 ‘메모리 월’ 병목을 완화해 성능과 경제성을 함께 높이겠다”고 밝혔다.

정명수 파네시아 대표는 “차세대 AI 인프라는 개별 장비 성능이 아니라 링크 반도체가 만들어내는 구조가 좌우한다”며 “글로벌 시장이 주목할 고효율 AI 데이터센터 표준 모델을 제시하겠다”고 말했다.

<문화경제 황수오 기자>