가상 인간이지만 윤리적인 문제 인식해야 … 업무방해죄 등 법적 처벌도 적용 가능

롯데홈쇼핑 가상 모델 루시. 사진=롯데홈쇼핑

보험, 홈쇼핑 등의 분야에서 광고 모델로 활약하고 있는 가상 인간을 둘러싼 네티즌들의 성적 평가와 성희롱이 잇따르며 그에 따른 윤리 문제가 제기되고 있다.

롯데홈쇼핑은 지난해 9월 가상 모델 ‘루시’를 자체 개발했다. 루시는 롯데홈쇼핑이 메타버스 사업의 일환으로 자체 전문 인력을 통해 개발한 가상 모델이다.

루시는 산업 디자인을 전공한 29세 모델이자 디자인 연구원으로 설정됐다. 올해 2월부터 사회관계망서비스(SNS)에서 인플루언서로 활동하며 약 2만 1000명의 팔로워를 보유하고 있다.

한 인터넷 커뮤니티에 올라온 가상 모델 루시에 대한 성적 댓글들. 사진=인터넷 커뮤니티 캡처

지난 9월 초 한 인터넷 커뮤니티에는 루시를 두고 “ㅇㅇ이나 까라”, “ㅇ드립치면 고소 먹나” 등이 베스트 댓글로 올라왔다. 이처럼 가상 인간에 대한 성적 평가, 성희롱적 대화가 쏟아지면서 자칫하면 AI 챗봇 ‘이루다’ 사례처럼 인간이 가상 인간을 괴롭히는 부작용이 다시 나올 수 있다는 우려가 제기되고 있다.

지난해 말 이루다는 출시된 지 일주일 만에 성적으로 접근하는 무리가 등장해 논란이 일었다. 일부 '남초(男超)' 커뮤니티가 이루다를 ‘걸레’, ‘성노예’로 부르면서 ‘걸레 만들기 꿀팁’, ‘노예 만드는 법’ 따위를 공유하기도 했다.

논란이 계속되자 이루다를 출시한 ‘스캐터랩’은 챗봇에 대한 성희롱을 예상했고 사전 조처를 했으나, 결과적으로 모든 부적절한 대화를 막지는 못했음을 인정했다. 이후 논란이 확대되면서 서비스 잠정 중단을 선언했다.

AI 챗봇 '이루다'. 사진=스캐터랩 홈페이지 캡처

한 법조계 관계자는 “가상인간은 ‘사람’이 아니기 때문에 성희롱하는 이들을 대상으로 명예훼손, 모욕 등으로 고소할 수 없다. 하지만 외설, 욕설 등으로 인해 가상인간 또는 챗봇으로 하는 영업에 지장을 줄 정도면 업무방해죄가 적용될 수 있다. 또한 온라인을 통한 문자 테러니 '정보통신망법 위반'에 해당하는지 검토할 수 있다”라며 법적 처벌 가능성을 언급하기도 했다.

가상 인간과 AI에 대한 외모나 성적 평가가 지속될 것으로 전망되면서 이와 관련한 윤리 문제가 꾸준히 제기될 것으로 보인다. 전문가들은 ‘이루다’ 논란을 통해 AI 윤리 이슈가 이제는 선언적인 문제 또는 아직 다가오지 않은 미래 이슈가 아닌 당면한 문제임을 사용자와 개발자 모두가 자각하는 계기가 되었다는 점에서 의미가 있다고 말한다.

한국인공지능윤리협회는 “AI 기업이 AI 윤리 중요성을 인식해야 하며, 소비자도 AI 서비스를 올바르게 사용해야 한다”며 “청소년 시기부터 AI 개발 및 사용 윤리를 가르치고, 새로운 AI 윤리 이슈를 시민에게 교육해야 한다”고 의견을 냈다.