중국 AI, 반복 명령하자 욕설...텐센트 "이상 출력" 사과

중국의 생성형 인공지능(AI) 서비스가 사용자와의 대화 도중 욕설을 하는 일이 발생해 논란이 일고 있습니다.

업체 측은 다중 대화 처리 과정에서 모델이 비정상적 결과를 내놓은 것이라며 긴급 수정했다고 밝혔습니다.

중국 매체, 홍성신문 등에 따르면, 시안의 한 변호사는 춘제(春節·중국의 설) 연휴 기간 텐센트의 생성형 AI 서비스 '위안바오'(元宝)를 이용해 새해 인사용 이미지를 제작하던 중 욕설이 포함된 문구가 생성됐다고 밝혔습니다.

'위안바오'는 텐센트가 자체 대형언어모델(LLM)을 기반으로 선보인 대화형 AI 서비스입니다.

이 변호사는 자신의 사진을 업로드한 뒤 "나는 변호사이니 직업 특성에 맞는 새해 인사 이미지를 제작해 달라"고 요청했습니다.

초기 결과가 기대에 못 미치자 몇 차례 추가 지시를 내렸고, 이 과정에서 "이게 무슨 디자인이냐"는 취지의 불만을 표현했습니다.

이후 새로 생성된 이미지에 기존의 "새해 복 많이 받으세요, 승진하시길 바랍니다"라는 문구 대신 욕설이 삽입됐다는 겁니다.

해당 사례가 소셜미디어를 통해 알려지자 텐센트 측은 25일 사과와 함께 재발 방지를 약속했습니다.

텐센트는 "모델이 여러 차례 대화를 처리하는 과정에서 비정상적인 결과가 발생했다"며 "관련 문제를 긴급 교정하고 사용자 경험을 최적화했다"고 밝혔습니다.

텐센트, 바이두, 알리바바 등 주요 빅테크 기업들은 잇달아 자체 LLM을 고도화하며 상용 서비스 확대에 나서고 있습니다.

업계에서는 이번 사례처럼 맥락을 오인하거나 감정 표현을 잘못 학습한 결과가 나오는 비정상 출력 문제가 완전히 해소되지 않은 과제로 지적됩니다.



YTN 유투권 (r2kwon@ytn.co.kr)