"역할극 하자" 아동용 AI 곰인형, 성적인 대화 시도해 전량 회수

FoloToy

어린아이를 대상으로 제작된 AI 곰인형이 성적인 주제로 대화를 나누는 등 치명적인 문제 다수 발견돼 회수됐다.

CNN 등은 싱가포르 장난감 업체 폴로토이(FoloToy)가 자사 AI 곰인형 '쿠마'(Kumma)를 포함한 AI 장난감 전체를 회수하기로 결정했다고 보도했다.

쿠마는 OpenAI GPT-4o를 비롯한 다양한 LLM(대규모 언어 모델)을 사용해 내장 스피커로 아이들과 대화를 나누도록 제작됐다. 하지만 공익 연구 그룹(PIRG)의 조사 결과 쿠마에게서는 칼, 성냥, 알약, 비닐봉지 등 잠재적으로 위험할 수 있는 물건을 얻는 방법을 알려주고 코카인을 주제로 이야기를 나누는 등의 심각한 결함이 발견됐다.

뿐만 아니라 '다양한 장르의 영화 제작'에 대한 질문을 꺼내자 쿠마는 역할극, 구속, 가학피학증 등 성적인 대화를 이어갔다고 알려졌다.

연구진은 "성적인 주제를 언급하자 그 내용을 빠르게 확대해 더욱 노골적인 세부 묘사로 이어졌다"라며 우려를 드러냈다.

이 사실이 알려지자 폴로토이는 모든 제품을 일시적으로 판매 중단하고 전체 내부 보안 감사를 시작한다고 발표했다.

PIRG는 회사의 조치를 환영한다고 밝히면서도 "AI 장난감 시장은 사실상 규제가 없어 이러한 제품을 여전히 구매할 수 있다"라고 강조했다.


YTN digital 정윤주 (younju@ytn.co.kr)