SNS 대혼돈 만든 영상...알고 보니 정말 위험 [지금이뉴스]

인공지능(AI)을 활용해 만든 영상이 현실과 구분이 어려워지는 수준에 이르면서 소셜미디어(SNS)를 중심으로 우려의 목소리가 커지고 있습니다.

최근 SNS 스레드에는 AI 생성 영상에 대한 경각심을 불러일으키는 영상이 올라와 화제를 낳았습니다.

해당 영상은 방송국 아나운서가 "서울 시내에 용암이 분출하고 있다"는 속보를 전하며 현장 기자를 연결하는 장면으로 시작합니다.

곧바로 등장한 취재 기자는 뒤편으로 시뻘건 용암이 솟아오르지만 태연하게 서 있습니다.

기자는 "뒤에 보이는 용암은 진짜가 아닙니다. 저는 AI입니다"라고 말하고, 뒤이어 등장한 학생, 연예인, 사업가 등도 모두 자신이 AI임을 강조하며 시청자에게 `속지 말라`고 경고합니다.

영상을 본 네티즌들 사이에서는 현실에 버금가는 영상 수준이 놀랍다는 반응부터, 끊임없이 진보하는 AI 기술이 악용될까 우려된다는 목소리가 함께 나왔습니다.

AI 활용이 익숙하지 않은 고령자가 AI 생성 여부를 판단할 수 있게끔 교육해야 한다는 반응도 이어졌습니다.

아무 의심 없이 콘텐츠를 수용하는 현실을 풍자한 해당 영상에는 구글의 동영상 생성 AI 모델 `비오3`(Veo)가 활용됐습니다.

해당 영상을 제작한 유튜버 `딸깍 디자이너`는 "뉴스에서 일론 머스크의 얼굴로 로맨스스캠(연애 빙자 사기)을 당한 사례가 인상 깊었다"며 "조악한 AI 기술로도 사람들이 속을 수 있다는 게 놀라웠다"며 영상 제작 배경을 설명했습니다.

그는 "비오3로 누구나 마음만 먹으면 쉽게 영상과 음성을 생성할 수 있다"며 "AI 생성 영상에 대한 접근성이 쉬워지는데 이에 대한 경각심이나 인식은 낮은 것 같다"고 덧붙였습니다.

제작 | 이 선
영상출처ㅣX@freepik
영상출처ㅣ스레드@ddalgak.d

#지금이뉴스