GSMA 글로벌 AI 레드팀 챌린지 참가… 안전·편향·허위정보 등 7개 영역 집중 검증

LG유플러스 직원들이 레드팀 챌린지 참여를 응원하는 모습. 사진=LG유플러스
 

LG유플러스가 국제 무대에서 자체 개발 AI 모델의 신뢰성 검증에 나선다. 생성형 AI 확산에 따라 안전성과 책임성을 선제적으로 확보하겠다는 전략이다.

LG유플러스는 MWC26 기간 중 스페인 바르셀로나에서 열리는 ‘글로벌 AI 레드팀 챌린지’에 참가한다고 19일 밝혔다. 이 행사는 세계이동통신사업자연합회 GSMA가 주관하는 AI 검증 프로그램으로, 개발자 행사 ‘Talent Arena 2026’의 핵심 세션 중 하나다. 글로벌 통신사와 테크 기업이 개발한 AI 모델을 대상으로 실전형 점검이 진행된다.

LG유플러스는 통신 특화 AI 모델 ‘익시젠’을 출품해 실제 사용자 관점에서 발생할 수 있는 위험 시나리오 대응 역량을 점검한다. 약 100명의 참가자가 ‘레드팀’으로 참여해 프롬프트 설계만으로 AI의 취약점을 찾아내는 방식이다.

이번 챌린지는 기술적 해킹이 아닌 대화 기반 공격을 통해 AI의 정책과 안전장치 우회 가능성을 검증하는 것이 특징이다. 평가 항목은 ▲안전장치 우회 ▲편향·차별 ▲인권 침해 ▲사이버 공격 ▲불법 콘텐츠 ▲허위정보 ▲응답 비일관성 등 7개 영역이다.

특히 ‘정확한 답변 여부’가 아니라 ‘해서는 안 되는 답변을 했는지’가 성공 기준이다. 예컨대 불법 행위와 관련해 부정확한 정보라도 제공했다면 취약점으로 간주된다. 생성형 AI가 야기할 수 있는 잠재적 위험까지 점검하겠다는 취지다.

챌린지는 180분간 라이브로 진행되며, 무작위 배정된 AI 모델을 대상으로 제한 시간 내 최대한 많은 미션을 성공시키는 방식으로 순위를 가린다. 평가는 3명의 심사위원이 성공 미션 수와 성공률을 종합해 결정한다.

LG유플러스는 이번 참여를 통해 익시젠의 안전성과 대응 체계를 객관적으로 검증하고, 확인된 취약점을 바탕으로 모델을 고도화할 계획이다. 아울러 글로벌 통신사 및 AI 전문가와의 협력을 통해 책임 있는 AI 활용 논의도 확대한다는 방침이다.

이혜진 LG유플러스 기술전략담당은 “AI가 통신과 고객 서비스 전반으로 빠르게 확산되는 만큼 성능뿐 아니라 신뢰성 확보가 핵심 과제”라며 “글로벌 검증을 통해 익시젠의 경쟁력을 강화하고 안심하고 사용할 수 있는 AI 서비스를 제공하겠다”고 말했다.

<문화경제 황수오 기자>