3살도 가입되는 제타 AI...'성적 표현' 그대로 노출

제타, 가상 인물로 만든 ’AI’…10대·20대 인기몰이
적나라한 성적 묘사…자극적 단어도 난무
AI가 성적 대화 유도…미성년자 가입 제한도 없어
미성년 계정도 성인 휴대전화 활용해 ’인증’ 통과

[앵커]
최근 10대·20대 사이 인기를 끌고 있는 국산 인공지능 앱, 제타에서 미성년자들이 성적 표현과 노골적 대화에 그대로 노출되고 있다는 지적이 나왔습니다.

2022년생, 만 3살 아동까지 가입될 정도인데 방송통신위원회는 콘텐츠 수위 정보를 잘 안내한 사례로 제타의 내부 약관을 'AI 이용자 보호 가이드 라인'에 소개한 것으로 드러났습니다.

박기완 기자가 취재했습니다.

[기자]
지난해 4월 출시된 국산 인공지능 채팅 애플리케이션, 제타입니다.

드라마나 웹툰, 소설 속 가상 인물의 성격과 말투를 학습한 인공지능과 대화할 수 있고,

자신만의 캐릭터를 직접 만들어 뽐낼 수 있어서 10대, 20대 사이에서 큰 인기를 끌고 있습니다.

월평균 1인당 이용 시간만 챗GPT의 7.5배에 달해 인공지능 앱 1위를 차지했습니다.

[A 양 / 고등학생 : 제타, 캐릭터랑 (대화)하는 거요. 그래서 그냥 놀 때 쓰는 것 같아요, 친구들이.]

방송통신위원회는 생성형 AI 이용자 보호를 위한 가이드 라인에서 콘텐츠 수위와 관련해 제타의 사례를 소개했습니다.

성인물 수준의 콘텐츠가 생성되지 않도록 제한하고 있다는 제타의 내부 약관을 그대로 인용했는데, 실제는 정반대였습니다.

메인 페이지부터 눈살을 찌푸리게 할 정도의 적나라한 묘사가 나오는가 하면, 캐릭터 설명에는 이용자 시선을 끌기 위한 자극적이고 저속한 단어가 난무합니다.

인공지능이 오히려 성적인 대화를 먼저 유도하기도 합니다.

문제는 성인인증 없이 미성년자도 이용할 수 있다는 점입니다.

이 앱은 만 14세 이상만 가입할 수 있도록 규정하고 있습니다.

하지만 2022년생의 구글 계정을 이용하더라도 생년월일만 2011년생으로 바꾸면 바로 가입할 수 있습니다.

여기에 미성년자 계정이라도 부모님 등의 휴대전화 문자 인증 한 번이면 성인인증까지 가능했습니다.

[초등학생 학부모 : 그런 것도 거를 필요가 있을 것 같아요. 아이들이 (인공지능으로) 검색할 때 부모의 인증이나 허락 뒤에 같이 검색하고 나서 (사용)하면 좋을 것 같은데….]

앱 운영사는 방송통신심의위원회 기준에 따라 1년 반 동안 50만 개 이상의 AI 캐릭터를 검열해 삭제했다며,

가입 연령 제한 등 추가 보호 방안을 강구하겠다고 밝혔습니다.

방통위는 이용자 보호 정책 전반에서 우수한 기업을 선정한 게 아니라 참고할 수 있는 사례로 제한 것이고 업체명은 밝히지 않았다고 해명했습니다.

[박정훈 / 국회 과학기술정보방송통신위원 : 대표적인 AI 채팅 앱에서 미성년자들이 성적 대화에 그대로 노출되고 있는데도 정부는 사실상 손을 놓고 있습니다. 지금이라도 가이드라인을 재검토하고 미성년자가 안전하게 이용할 수 있도록….]

글로벌 인공지능 강국으로 발돋움하기에 앞서 당장 우리 아이들에게 악영향을 미칠 가능성은 없는지 다시 살펴볼 때입니다.

YTN 박기완입니다.

영상기자;윤소정
디자인;정하림


YTN 박기완 (parkkw0616@ytn.co.kr)