[팩트와이] 'AI 윤석열' 미국에서는 법 위반이다？

[앵커]
윤석열 국민의 힘 대선 후보 선대위 출범식에 이른바 'AI 윤석열'이 등장했습니다.

인공지능을 이용해 얼굴을 모방하는 딥페이크 기술을 사용한 건데요.

그러자, 유권자를 속이는 행위라며 미국이나 유럽에서는 정치적 목적의 딥페이크를 금지한다는 주장이 나왔습니다.

실제로 그런지, 박희재 기자가 팩트체크 했습니다.

[기자]
윤석열 국민의 힘 대선 후보에게는 말을 하며 고개를 좌우로 젓는 버릇이 있습니다.

그런데, 선대위 출범식, 이 영상에서는 그 모습을 전혀 찾아볼 수 없습니다.

딥페이크 기술을 이용한 이른바 AI 윤석열이기 때문입니다.

그러자, 후보 이미지를 조작한 셈이라며 미국이나 유럽에서는 이런 정치 목적의 딥페이크 기술 사용을 엄격히 제한한다는 주장이 나왔습니다.

딥페이크 기술은 악의적 비방, 음란물과 가짜뉴스 생산 등에 이용되는 경우가 많아서, 세계 각국이 규제에 나서는 추세입니다.

그러나 선거 과정에서 어떤 것은 되고, 어떤 것은 안되는지 구체적이고 명확한 기준을 만든 나라는, 현재로썬 없습니다.

유럽연합 보고서를 보면 선거 관련 딥 페이크 규제를 둔 곳은 미국 캘리포니아와 텍사스 주 정도에 불과합니다.

캘리포니아는 선거 60일 전, 텍사스는 30일 전 딥페이크 기술을 이용해 '후보자를 폄훼'하거나 '유권자를 기만'하면 처벌합니다.

정치인이 자신의 모습을 딥페이크로 만들어 유세하는 것 자체를 규제하진 않습니다.

AI로 자신의 좋지 않은 행동과 말투 등을 지웠다면 유권자 기만에 해당하는 지도 논란의 영역입니다.

[장기영 / 한국·미국 캘리포니아주 변호사 : (캘리포니아주 법안에서) 가장 중요한 게 중대하게 기만적(materially deceptive)이라는 요건을 충족시켜야 하는 데 (후보의 버릇에 대한 판단은) 개인의 정서나 가치관, 혹은 선입견에 따라 달라질 수 있습니다. 그 부분은 '중대하게 기만적'이라 단정하긴 어려울 것 같아요.]

[에드워드 리 / 미국 캘리포니아주 변호사 : 캘리포니아주 법안의 규제 대상에는 누군가를 폄훼할 의도뿐 아니라, 표를 위한 기만적인 정치 광고까지 포함하고 있어서, (자신의 딥페이크 영상을 배포한) 그 후보도 대상에 포함될 수 있습니다.]

기술 발전의 속도를 제도와 인식이 따라가지 못하는걸 '문화지체현상'이라고 하죠.

딥페이크 기술을 둘러싼 논란 역시 이런 배경에서 나왔다고 볼 수 있습니다.

하지만 신기술이 유권자의 판단을 흐리게 하는 데 쓰여서 안 된다는 점은 분명해 보입니다.

YTN 박희재입니다.

YTN 박희재 (parkhj0221@ytn.co.kr)
인턴기자 : 김선우 [natekim0523@snu.ac.kr]