머스크의 엑스, 영국에서 그록 ’AI 성적 이미지’ 해결 요구 직면

일론 머스크 테슬라 최고경영자(CEO)가 이끄는 엑스(X·옛 트위터)와 인공지능(AI) 기업 xAI이 영국에서 챗봇 ’그록’의 당사자 동의 없는 성적 이미지 생성 문제 시정 요구에 직면했습니다.

로이터 통신은 리즈 켄덜 영국 과학혁신기술부 장관이 "서비스·운영자들은 적절한 행동을 할 분명한 의무가 있고 이는 표현의 자유를 제한하는 게 아니라 법을 준수하는 것"이라고 밝혔습니다.

그러면서 "온라인 안전법으로 사적인 이미지를 오용하거나 다른 사람에게 유포하는 행위를 최우선으로 다루는 범죄로 규정하며, 이는 AI로 생성한 이미지를 포함한다"고 지적했습니다.

또 "각 플랫폼은 이 같은 콘텐츠가 온라인에 나타나지 않도록 방지하고, 그런 게 있으면 신속히 제거해야만 한다"고 강조했습니다.

영국의 미디어·통신 규제 당국인 오프콤(OfCom)은 지난 5일 그록이 사람들의 ’옷을 벗기는’ 이미지를 만들고 있다는 우려를 조사하고 있다고 밝혔습니다.

이어 엑스와 xAI가 영국 사용자 보호를 위한 법적 의무를 이행하고 있는지 파악하기 위해 긴급히 연락했다고 소개했습니다.

켄들 장관은 "오프콤이 이 문제를 긴급히 조사하는 것은 전적으로 옳다"며 "오프콤이 필요하다고 보는 어떤 법적 조치도 완전히 지지한다"고 말했습니다.

그록은 표현의 자유 등을 들어 성적 콘텐츠 생성을 막지 않고 있으며, 최근 들어 아동을 성적으로 그린 생성 이미지가 돌면서 논란이 되고 있습니다.

BBC도 엑스 사용자들이 당사자 동의 없이 사람들의 옷을 디지털로 벗겨 비키니를 입은 듯 보이게 하거나 성적인 상황을 만들어 달라고 그록에 요청하는 다수의 사례를 확인했다고 전했습니다.

엑스는 이와 관련한 영국 언론의 질의에 답변하지 않았지만, 지난 4일 아동 성착취물을 포함한 불법적인 콘텐츠를 생성하는 데 그록을 사용하지 말라고 사용자들에게 경고했습니다.