오픈AI, 청소년 챗GPT 대화에 부모 관리 기능 곧 도입..."아들 죽음에 책임" 소송 계기

오픈AI는 챗GPT를 더 안전하게 만들기 위해 앞으로 한 달 안에 '부모 관리 기능' 등 새로운 기능을 도입할 계획이라고 밝혔습니다.

오픈AI는 블로그 게시글에서 "부모는 자신의 10대 자녀에게 챗GPT가 어떻게 응답할지 제어할 수 있고, 자녀가 심각한 위기 상황에 놓였을 때 알림을 받을 수 있다"고 설명했습니다.

이는 오픈AI 개발자 커뮤니티가 1년 넘게 요구해 온 기능이라고 뉴욕타임스(NYT)는 전했습니다.

오픈AI의 이런 기능은 캐릭터 기반 챗봇을 운영하는 '캐릭터.AI'가 도입한 관리 장치와 유사합니다.

앞서 지난해 캐릭터.AI는 자신의 아들이 캐릭터.AI의 챗봇에 빠져 죽었다며 부모에게 소송을 당했습니다.

캐릭터.AI는 부모에게 10대 계정을 모니터링할 수 있도록 하고 있으며, 오픈AI도 이런 부모 관리 기능 도입을 검토 중입니다.

오픈AI는 또 심각한 위기 신호가 감지되는 청소년이나 성인 사용자에 대해서는 곧 챗봇의 더 안전한 버전으로 연결할 계획이라고 밝혔습니다.

이 버전은 GPT-5 싱킹(Thinking)이라 불리는 추론 모델로, 기본 GPT-5보다 응답 속도는 느리지만 안전 정책과 더 잘 맞도록 훈련됐습니다.

오픈AI는 이 모델이 "사용자를 현실에 기반하도록 유도해 위기 상황을 완화한다"며 이 기능이 "정서적·정신적 위기 신호가 감지될 때 작동한다"고 밝혔습니다.

다만, 이런 부모 관리 기능 도입에 대한 회의적인 시각도 나오고 있습니다.

아동·청소년 미디어 안전을 주장하는 비영리단체 커먼 센스 미디어는 "부모 관리 기능은 설정하기 어렵고, 책임을 부모에게 전가하며, 청소년들이 우회하기도 쉽다"고 지적했습니다.

이는 장기적으로 아이들을 AI로부터 안전하게 지켜줄 해결책이 아니라면서 일종의 임시방편에 가깝다고 비판했습니다.



YTN 이승윤 (risungyoon@ytn.co.kr)