흡연 훈계에 "경찰이 몰카? 변태네" 조롱 여고생, 알고 보니

AI 가짜 보디캠 영상 확산에...경찰청, SNS 채널 내사

SNS

경찰이 폭행이나 말다툼, 음주운전 현장 등에 출동하는 장면을 인공지능(AI)을 통해 자극적으로 만들어낸 영상이 온라인에서 판을 치고 있다.

23일 연합뉴스 보도에 따르면 지난 10월 2일부터 유튜브나 소셜미디어(SNS) 등에 이러한 AI 가짜 보디캠 영상이 50개 이상 게재됐다.

해당 영상들에는 부천역 인근 길거리에서 방송하던 인터넷 방송인(BJ)이 방송을 종료해달라는 경찰의 요청에 욕설하며 덤벼들다 체포되는 내용, 교복을 입고 길에서 담배를 피우던 학생이 훈계하는 경찰의 보디캠을 보고는 "경찰이 '몰카' 찍고 다님? 변태네, 진짜"라며 조롱하는 내용 등이 담겼다.

AI로 제작된 이 영상들은 10월 한 달 동안 인스타그램에서만 누적 조회수 1,200만 회를 기록하고, 한 달 만에 틱톡 채널 팔로워 수 9,900명을 기록하는 등 온라인상에서 화제가 됐다.

상당수 누리꾼은 가짜임을 눈치채지 못하는 상황이다. 최근 전국적으로 경찰 보디캠이 도입된 소식과 맞물려 오해 소지가 커졌다는 평가다.

실제로 BJ 검거 영상에는 "경찰이 시민 자유를 억압한다"는 등의 비판 댓글이 달리기도 했다.

경찰청은 자칫하면 경찰 과잉으로 비춰질 수 있다는 점에서 피해 확산을 막고자 해당 SNS 채널에 대한 입건 전 조사(내사)에 나서겠다고 이날 밝혔다. 채널 운영자가 자신이나 타인에게 이익 또는 손해를 가할 목적으로 허위 통신을 한 것으로 보고 전기통신기본법 위반 혐의 적용을 우선 검토한 뒤, 삭제나 차단 조치도 병행할 예정이다.

다만 공익을 해할 목적으로 허위 통신을 한 자를 처벌할 수 있도록 규정한 조항(제47조 제1항)은 2010년 '미네르바 사건'으로 헌법불합치 결정을 받아 폐지된 상태다. 지금까지 이를 대체할 법이 나오지 않아 채널 운영자가 실제 처벌받게 될지는 불분명하다는 분석도 나온다.

내년 1월 시행을 앞둔 AI 기본법도 규제보다는 산업 진흥에 무게를 두고 있어 사회 혼란을 유발하는 AI 콘텐츠에 대한 내용을 담고 있지 않다. 이 때문에 보완 입법이 필요하다는 지적이 제기된다.


YTN digital 이유나 (lyn@ytn.co.kr)