한국어 특화 경량 모델… A.X 4와 투 트랙 전략 본격화

SK텔레콤 자체 구축 슈퍼컴퓨터 ‘타이탄’. 사진=SK텔레콤
 

SK텔레콤이 11일 자체 개발한 경량 언어모델(LLM) ‘A.X 3.1 라이트’를 오픈소스 플랫폼 허깅페이스(Hugging Face)에 공개했다. 이번 모델은 순수 자체 기술로 개발됐으며, 다양한 모바일 기기에서 최적의 성능을 발휘할 수 있도록 설계됐다.

‘A.X 3.1 라이트’는 SKT가 처음부터 모델 구조와 학습 데이터를 자체 설계한 프롬 스크래치 방식으로 제작됐다. 매개변수 70억 개 수준의 경량 모델로, 기존 ‘A.X 3.0 라이트’의 통화요약 모델을 업그레이드한 버전이다.

한국어 처리 성능도 경쟁력 있다. 한국어 벤치마크 ‘KMMLU’에서는 동급의 ‘A.X 4.0 라이트’ 대비 96% 수준(61.70점)의 성능을, 한국 문화 이해 평가 ‘CLIcK’에서는 오히려 더 높은 71.22점을 기록했다. SKT는 향후 매개변수 340억 개 규모의 ‘A.X 3.1’ 모델도 이달 중 추가 공개할 예정이다.

SKT는 이번 공개를 통해 A.X 3(자체 개발)와 A.X 4(대규모 사전학습 기반) 모델을 병행하는 투 트랙 전략을 강화한다. A.X 3는 경량화와 독자 기술 기반의 소버린 AI 모델로, A.X 4는 고성능이 요구되는 서비스에 적합한 모델로 각각 활용된다.

SKT는 지난 2018년부터 KoBERT, GPT2 한국어 버전, A.X 모델 등 국산 AI 모델 개발에 나서왔다. 특히 A.X 3.0은 AI 서비스 ‘에이닷’의 전화 통화요약 기능에 적용되며 실사용 중이다.

김태윤 SK텔레콤 파운데이션 모델 담당은 “한국형 LLM 개발 역량을 바탕으로 국가 AI 경쟁력 제고와 생태계 자립에 기여하겠다”고 밝혔다. SKT는 이 같은 기술력을 바탕으로 정부의 ‘독자 AI 파운데이션 모델 개발사업’에도 참여할 계획이다.