[더뉴스] 가짜 'AI윤석열' 등장에 '손흥잼', '이정잼'까지...대선 AI주의보

국민의힘 윤석열 대선후보, 지난 주 선대위 출범식에서 AI윤석열을 깜짝 공개했죠.

실제 후보와 비교해도 판별이 안 될 정도로 똑같습니다.

하지만 후보의 단점을 인위적으로 뺄 수 있어 국민들의 판단을 흐릴 수 있다는 우려도 제기됐는데요.

또 하나의 우려는 후보의 AI를 복제해서 거짓 정보를 유포하는 데 사용할 수 있다는 점이었습니다.

그런데 우려가 현실이 됐죠, 최근 가짜 AI윤석열이 등장했습니다.

SNS에 출현한 '가짜 AI 윤석열'은 국민의힘이 공개한 AI와 같은 겉모습인데, 욕설을 하는 등 공격적인 언행을 보였습니다.

AI가 스스로 학습을 하는 딥러닝과 가짜, 거짓이라는 뜻의 페이크를 합친 '딥페이크' 사례의 전형입니다.

앞서 더불어민주당 이재명 후보 측에서도 AI휴먼을 사용한 바 있는데요.

딥페이크 영상은 아니지만, 챗봇 기능을 더한 '명탐점 이재봇'이라는 가상의 후보가 지지자들의 궁금증에 답변하는 방식입니다.

하지만 딥페이크, 말그대로 교묘한 가짜뉴스에 악용될 우려가 나오자, 이 후보측은 악의적 딥페이크에 강력 처벌하겠다며 강력히 경고하고 나섰습니다.

이 후보 측 지지자는 아예 딥페이크의 경각심을 높이겠다며, 유명 캐릭터에 이 후보의 얼굴을 합성한 영상들을 올리기도 했는데요.

아이언잼부터, 잼크, 손흥잼에 이정잼까지 등장하기도 했습니다.

앞서 보신 것처럼 딥페이크 기술은 말그대로 '가짜'입니다.

AI는 후보의 결점을 가리고 장점을 부각한다는 긍정적인 면도 있지만, 누구나 쉽게 조작해 왜곡된 메시지를 전달할 수 있다는 치명적인 단점이 있습니다.

선거를 85일 앞둔 시점에서 작은 위험이 큰 결과를 초래할 수 있는 만큼 각 선대위에서는 새로운 기술의 적용에 대한 분명한 기준을 세울 필요가 있어 보입니다.

YTN 박석원 (ancpark@ytn.co.kr)