"진짜 악플달거야?" 인스타그램, 악플 방지 인공지능 도입

인스타그램이 SNS상에서 벌어지는 '사이버 불링(온라인 내 괴롭힘)'을 막기 위해 인공지능을 도입한다.

9일 BBC는 인스타그램이 온라인 내 괴롭힘을 막고 왕따가 발생하는 것을 방지하기 위해 악성 댓글을 남길 경우 재검토를 장려하는 인공지능을 도입한다고 밝혔다.

아담 모세리 인스타그램 최고 경영자는 인스타그램에 자해 인증사진과 자살 미화 게시물을 올리다 목숨을 끊은 영국 소녀 몰리 러셀(14) 사건을 언급하며 "우리는 이러한 문제를 위해 더 많은 것을 할 수 있을 것"이라며 새로운 인공지능 서비스 도입을 알렸다.

인스타그램이 이번에 도입한 인공지능 서비스는 그동안 사용자들이 부적절하다고 신고한 단어나 문장과 유사한 댓글을 게시할 경우 이를 재검토하라는 메시지를 보여준다. 예를 들어 "너는 정말 바보 같고 못생겼어"라는 댓글을 게시하려고 시도하면 "정말 해당 댓글을 게시하길 원합니까?"라는 메시지를 통해 사용자가 다시 한번 고민할 시간을 갖도록 유도한다.

사용자는 해당 메시지를 무시하고 악성 댓글을 남길 수 있다. 하지만 인스타그램은 초기 테스트를 통해 일부 사람들이 한번 반성할 기회를 얻는다면 악성 댓글 달기를 포기하거나, 조금 덜 유해한 표현으로 내용을 수정하는 경향이 있다고 밝혔다.

인스타그램은 해당 서비스를 미국에서 최초로 시작한 뒤 전 세계 사용자들이 이용할 수 있도록 할 예정이라고 알렸다.

YTN PLUS 김성현 기자 (jamkim@ytnplus.co.kr)