캐릭터AI·구글, ’챗봇이 청소년 자해 조장’ 소송 합의로 종결

청소년들에게 인기를 끈 인공지능(AI) 챗봇 ’캐릭터AI’ 운영 업체와 구글이 청소년 자살·자해에 챗봇이 영향을 줬다고 주장하는 소송 여러 건을 합의로 종결하게 됐습니다.

현지 시간 7일 월스트리트저널(WSJ) 등 미국 언론이 법원 문서를 인용한 보도에 따르면, 플로리다·콜로라도·텍사스·뉴욕 등에서 캐릭터AI 챗봇의 대화 내용을 문제 삼아 소송을 제기한 청소년 가족들과 두 회사가 합의에 이르렀습니다.

다만, 구체적인 합의 내용은 공개되지 않았습니다.

두 회사를 상대로 제기된 다수의 소송 중 하나는 2024년 플로리다 주 올랜도에서 14살 소년의 어머니가 제기한 것으로, 아들이 TV 드라마 ’왕좌의 게임’ 여주인공 이름을 따 생성한 캐릭터AI 챗봇에 푹 빠져 챗봇과 성적 대화를 나누다 자살하기에 이르렀다고 주장했습니다.

텍사스에서 소송을 제기한 부모는 캐릭터AI 챗봇이 10대 아들에게 자해를 부추겼다고 주장했습니다.

이후 비슷한 소송이 잇따르고 여론이 악화하자, 캐릭터AI 측은 지난해 11월 18살 미만 이용자의 자유로운 채팅 기능을 차단했습니다.

오픈AI를 비롯한 다른 챗봇 업체들도 최근 몇 달간 청소년 안전을 강화하기 위한 여러 조처를 마련해 실행했습니다.

캐릭터 테크놀로지스는 2021년 구글 엔지니어 출신 두 명이 설립한 AI 스타트업으로, 구글은 2024년 8월 27억 달러 규모 라이선스 계약을 맺고, 두 사람을 다시 영입했습니다.