AD
【스튜디오】
▶엄지민
안녕하세요. 엄지민입니다. 현상 이면에 숨겨진 사실을 좇아, 팩트추적! 지금 시작합니다.
【인트로】
인류를 초고효율 시대로 이끈 AI, 인공지능.
이제 AI는 직장과 학교는 물론 일상 깊숙한 곳까지 스며들며 현대인의 삶을 바꿔놓고 있습니다.
[YTN 보도 (2025년 9월 25일) : 전 세계 기술 전문직 종사자 5천 명을 조사한 결과 응답자의 90%가 업무에 AI를 사용하고 있다고 답해….]
하지만 그 이면에는 우리가 외면할 수 없는 그림자도 드리워지고 있습니다.
기술의 진보와 함께 빠르게 찾아온 일자리 구조의 변화.
[하경윤 / 웹툰 작가 지망생 : 회사에서 인력이 5명이 필요했으면 AI 때문에 이제 3명만 필요하고 이런 경우는 확실히 많아지고 있는 것 같고….]
해킹과 가짜뉴스, 딥페이크에 악용되며
누군가의 삶을 무너뜨리는 도구가 되기도 합니다.
[이수민 (가명) / 딥페이크 피해자 : 사람들이 휴대전화 보는 게 무서울 때가 있고, 약을 안 먹으면 밖에 잘 못 나가요.]
갈수록 흐려지는 현실과 허구의 경계.
[YTN 보도 (2025년 5월 6일) : 미국 플로리다에서 14살 소년이 스스로 목숨을 끊었습니다. 소년의 어머니는 아들이 '캐릭터 AI'와 1년간 나눈 대화가 죽음을 부추겼다며 구글 등을 상대로 소송을 냈습니다.]
그리고 무엇을 믿어야 할지, 분간하기 어려워지는 세상.
[박은일 / 성균관대학교 인공지능융합학과 교수 : AI의 암이라고 보면 사실은 사용자입니다. 이것을 사용하는 사람들의 의도에 따라서 너무나도 안 좋게 사용할 수 있습니다.]
이제 우리는, 이 시대가 던지는 새로운 질문 앞에 서게 됐습니다.
【스튜디오】
▶엄지민
YTN 팩트추적은 연말을 맞아 빛과 어둠의 교차점 AI를 두 편의 기획으로 준비했습니다.
지난 시간에는 AI의 순기능을 중점적으로 살펴봤고요.
오늘은 팩트체커 김혜린 기자와 함께 AI가 가져온
우리 사회의 문제들을 집중적으로 살펴보겠습니다.
김 기자, 이제 AI가 많은 사람들의 일상에서
빼놓을 수 없는 기술이 됐는데요.
실제로 얼마나 많이 활용됩니까?
▶김혜린
네. 한국인이 가장 많이 사용한 생성형 AI 앱은 '챗지피티'로, 월간 활성 사용자 수가 2,162만 명에 달합니다.
유료 이용자 기준으로는 미국에 이어 세계 2위,
아시아 국가 중에선 1윕니다.
또 지난해 8월과 올해 8월을 비교하면
사용자 수가 1년 사이 5배나 늘었습니다.
▶엄지민
그렇다면 실제 어떤 분야에서 가장 활발하게 쓰이고 있습니까?
▶김혜린
전문·관리직, 사무직, 학생 등 다양한 직군에서
정보검색이나 문서 작업 보조, 외국어 번역 등으로
생성형 AI를 활용하고 있었는데요.
AI가 나이나 직업을 가리지 않고
일상과 업무 전반으로 빠르게 확산한 겁니다.
▶엄지민
사실 많은 분들이 걱정하는 부분이 ‘이거 나를 대체하는 거 아닌가’라는 생각이거든요. 어떻습니까?
▶김혜린
네, AI가 효율성을 높여주는 만큼,
고용 구조를 흔들 수 있다는 우려도 커지고 있습니다.
【 VCR - 1 】
짧은 동영상을 만들어주는 AI 프로그램입니다.
라면을 먹는 소년의 모습을 그려달라고 했습니다.
[이재민 / 만화문화연구소장 : 거의 무제한의 선택지가 나오고요. 여기서 골라서 제가 원하는 스타일과 제일 비슷한 것을 고르는 겁니다.]
그 가운데 하나를 선택하면 금세 그럴듯한 애니메이션이 만들어집니다.
AI 기술의 발전으로 애니메이션과 웹툰, 영상과 광고 업계가 긴장할 수밖에 없는 상황.
웹툰 작가 지망생들에겐 걱정과 두려움이 앞섭니다.
[하경윤 / 웹툰 작가 지망생 : 커뮤니티나 학원 같은 데서 들리는 거는 이제 내가 그림을 아무리 열심히 그렸어도 AI가 더 잘 그리고 더 빨리 그리는데 뭔가 내가 이대로 그림을 계속 그리는 게 맞나 이런 걱정을 많이 하시긴 하더라고요.]
변화를 체감하는 직군은 창작 분야만이 아닙니다.
서울의 한 법무법인을 찾았습니다.
변호사에게도 AI는 유용한 도구가 됐습니다.
[이정민 / 변호사 : 직접 검색을 해서 찾다 보면 한두 시간이 걸릴 일들도 AI의 적절한 프롬프트를 활용하면 5~10분 이내에 찾을 수 있어서 상당한 시간을 벌게 되는 것이고요.]
법률 AI 서비스에 특정 집단이나 성별에 모욕적인 표현이 담긴 온라인 기사 댓글 내용이 모욕죄 등으로 유죄 판결이 날 가능성이 높은지 물어봤습니다.
그러자 해당 표현에 대한 법원 판례가 빠르고 일목요연하게 정리됩니다.
[이정민 / 변호사 : 범죄일람표에 있는 것 중에 명예훼손 또는 모욕으로 유죄 판결이 날 가능성이 높은 댓글들을 알려달라 이렇게 이야기 하면 어떤 댓글은 통신매체 이용 음란에 해당할 것으로 보인다. 그럼 이걸 보면서 제가 다시 한번 판단을 해보는 거죠.]
간단한 문서 검토나 비슷한 판례를 찾는 일은 그동안은 연차가 비교적 낮은 변호사가 많은 시간을 들여 일일이 찾던 중요 업무였습니다.
유사한 판례를 찾는 일은 단순한 정보 수집을 넘어, 법적 논리의 뼈대를 세우고, 추상적인 법률 규정을 구체적인 사안에 적용하는 기준을 제시해 판사를 설득할 수 있는 무기가 되기 때문입니다.
[이정민 / 변호사 : 원래는 30건 정도의 사건을 할 수 있었다면 경우에 따라서는 AI를 활용함으로써 50건 정도 즉, 자기가 사람을 채용하지 않아도 (업무) 효율성이 늘어났기 때문에 신규 채용의 수요가 적어지는 면들은 어느 정도는 있을 것이라고 생각합니다.]
문제는 신입이 줄면 경험을 통해 시니어로 성장하는 경로가 끊긴다는 겁니다.
노동시장 전체의 역동성이 약화할 수 있는 이 근본적인 모순을 해결하는 것이 진행 중인 AI 시대의 새로운 과제로 언급됩니다.
[노세리 / 한국노동연구원 연구위원 : 청년 고용이 줄어든다는 것은 AI의 영향뿐이라고만 설명할 수는 없습니다. (다만) 청년 부분에 20대의 고용이 줄어든다는 결과는 확인이 좀 됩니다. 그리고 이 경향이 어떠한 보고서를 봐서도 좀 동일하게 나오는 경향이 있어요. 그래서 말씀하신 대로 사실 굉장히 좀 우려스럽다고 느껴집니다.]
AI 기술의 등장과 함께,
전 세계 곳곳에서 일자리 구조는 빠르게 변화하고 있습니다.
[YTN 보도 (2025년 11월 16일) 피에르-올리비에 구린샤스 / IMF 수석 이코노미스트 : 인공지능은 생산성을 높일 수 있는 잠재력을 가지고 있습니다. 많은 이들이 이미 AI를 활용하고 있으며, 그 이점을 입증하고 있습니다.]
국내에서도 변화 조짐은 뚜렷합니다.
국내 일자리 가운데 약 12%, 340만여 개의 일자리가 AI 기술로 대체될 수 있다는 분석은 AI가 가져올 노동시장의 변화가 결코 먼 미래의 이야기가 아니라는 점을 보여줍니다.
[노세리 / 한국노동연구원 연구위원 : (노동자들이) 이걸 제대로 활용할 수 있는 역량을 갖추고 있을까 우리는 이걸 갖추게끔 뭔가를 지원하고 있을까라고 본다라고 하면 사실 좀 우려스럽고 가장 좀 급하게 움직여야 될 부분들은 역량 육성 부분이에요. 민간 기업과 정부와 정말 긴밀한 협력이 필요하고요.]
【스튜디오】
▶엄지민
네 이런 현상들이 그동안 우리가 모두 경험하지 못했던 일이기 때문에 이걸 잘 풀어나가는 게 우리의 과제가 될 것 같습니다.
▶김혜린
네, 아직은 AI가 해당 분야의 핵심 기능을 수행하지는 못하고 있지만, 필요한 인력이 줄어들 가능성이 있는 것만큼은 분명해 보입니다.
▶엄지민
네 요즘 AI 기술을 가장 빠르게 익히고 적용하는 단체가 보이스피싱 그리고 로맨스 스캠 같은 범죄 조직이라는 웃지 못할 말도 있더라고요.
▶김혜린
네, AI 기술을 악용하는 사례도 많이 소개되고 있습니다.
어떤 일이 벌어지고 있는지,
피해자의 이야기를 들어보았습니다.
【 VCR - 2 】
속옷 차림으로 우스꽝스러운 춤을 춥니다.
하지만 동작이 어색하고 배경과의 조합도 비현실적입니다.
AI를 활용해 특정 얼굴을 춤추는 신체에 합성해 만든 가짜, 이른바 '딥페이크' 영상입니다.
[이수민(가명) / 딥페이크 피해자 : '너 합성 당했다, 딥페이크 당했다'고 하면서 연락이 와서 보니까 제가 한 적도 없는 행동들이 막 적혀있고 죽으라는 말도 적혀있고 모르는 애들이 '쟤는 막 좀 죽어야 한다'고 하면서 거드는 거 보고 되게 놀랐었어요.]
10대 피해자 이수민 양(가명)은
지난해부터 사이버상에서 괴롭힘을 당해 왔습니다.
게임을 통해 알게 된 가해자의 전화 통화 요구를 거절하자 성적으로 조롱하는 딥페이크 영상을 만들어 수민 양을 공격하기 시작한 겁니다.
가해자는 수천 명이 모인 모바일 메신저에 영상뿐 아니라, 수민 양의 전화번호와 실명이 적힌 게시물을 반복적으로 올렸습니다.
딥페이크 영상과 게시글이 학교 친구들에게까지 알려지자, 수민 양은 결국 자퇴를 선택했습니다.
[이수민(가명) / 딥페이크 피해자 : 학교 애들한테 제가 남자한테 그 야한 사진을 보낸다고 헛소문을 내고 제가 남자를 꼬시고 다닌다, 도용도 했다면서 이상한 소문을 퍼트려서 자퇴하고 애들이랑 연락을 다 끊은 상황이에요.]
AI를 이용하면 누구나 손쉽게 가짜 영상을 만들 수 있게 됐고, 이를 악용해 누군가의 인생을 흔드는 일도 어렵지 않게 됐습니다.
[권태경 / 연세대 정보대학원 교수 : 생성형 AI가 되면서 매우 많은 사람이, 일반 대중들이 AI를 활용할 수 있게 된 상황 변화가 있습니다. 그런 관점에서 이제 위협을 좀 생각하지 않을 수가 없는데요. 바로 제일 중요한 문제는 우리가 세상을 믿기 어려워진다는 점에 있습니다.]
실제로 AI를 활용해 영상을 만드는 과정은
놀라울 만큼 간단했습니다.
제작진은 엄지민 앵커가 진행하는 모습을
시연해보았는데요.
장면 구성부터 배경음악 선택까지,
몇 번의 클릭만으로 순식간에 완성됩니다.
[엄지민 / 앵커 : 안녕하세요. 엄지민입니다. 현상 이면에 숨겨진 사실을 좇아, 팩트추적! 지금 시작합니다.]
이런 편리함은 허위·과장 광고를 만드는데도 동원됩니다.
[YTN 도용 불법 도박 사이트 광고 : 유명 축구선수 손흥민 선수가 새로운 공식앱을 출시하기 위해 강원랜드 카지노에 도착했습니다.]
여기에, AI 기술이 범죄에 악용되는 사례도 빠르게 늘고 있습니다. 대표적인 것이 바로 해킹입니다.
과거에는 악성코드를 만들고 변형하는데 해커의 실력과 조직력이 필요했지만, 이제는 AI가 그 역할을 대신하면서 공격 능력을 이전보다 크게 증폭시키고 있습니다.
[권태경 / 연세대 정보대학원 교수 : 악성코드를 변형하고 그리고 직접 공격자가 코딩을 하지 않더라도 LLM(언어 생성 AI)이 대신 짜준 코드 부분을 굉장히 동적으로 수행을 해서 성공적으로 공격한 사례도 발견되고….]
【스튜디오】
▶엄지민
네, 이런 딥페이크 문제에 대한 대책은 있습니까?
▶김혜린
최근 문제가 불거지고 있다 보니 정부가 대책을 내놓긴 했습니다.
AI를 악용한 허위 정보에 대한 징벌적 손해배상 제도가 도입되는데요,
실제 발생한 피해의 최대 5배까지 배상하라는 겁니다.
AI로 만든 영상 등이 실제가 아니라는 점을 소비자가 정확히 알 수 있도록 'AI 생성물 표시제'도 도입하기로 했습니다.
[김민석 / 국무총리 : (생성형 AI 악용은) 시장 교란뿐만 아니라 소비자에 대한 피해가 심한 중대한 범죄행위로 판단하고 있습니다.]
▶엄지민
네, 이번엔 다른 측면도 살펴보죠. AI가 인간성을 대체하고 있다는 지적도 나오던데 이건 왜 문제가 되는 겁니까?
▶김혜린
네, 지난 시간에 AI의 순기능을 살폈을 때
'정서 돌봄'이라고 해서 어르신들과 대화할 수 있는 로봇 이야기를 소개해 드렸었는데요.
이런 측면이 과도할 경우에 생길 수 있는 부작용이라고 볼 수 있습니다.
영상으로 보시겠습니다.
【 VCR - 3 】
20대 여성, 문현아 씨와 박사랑 씨.
최근 두 사람의 대화에는 AI 챗봇 이야기가 자주 등장합니다.
[박사랑 : 가슴 쪽이 답답해, 배 쪽이 답답한 거야.]
[문현아 : 아 의료.]
[박사랑 : 의료로 진짜 많아요. 지금 쓰러질 것 같아 이러면 너 지금 저혈당이야? 막 이러는데.]
[문현아 : 의료 정보들 입력했구나, 여기다가.]
[박사랑 : 얘가 다 알고 있어.]
AI에게 일상적인 질문은 물론
소소한 조언을 구하기도 합니다.
[문현아/ 아나운서 : 제가 오늘 여기 오면서도 사실 챗GPT한테 친구한테 하듯이 나 오늘 YTN 가서 너에 대한 이야기를 할 거야. 너 어떻게 생각해? 이렇게 물어봤거든요. 그랬더니, 그 이야기가 굉장히 '나에게는 관심이 있는 것 같아서 따뜻하게 느껴지는걸' 이렇게 대답해주더라고요. 너무 친구같이.]
박 씨 역시 AI는 편안한 대화 상대라고 말합니다.
듣기 싫은 말은 하지 않기 때문입니다.
사소한 결정을 AI에게 맡길 때도 있습니다.
[박사랑 / 스피치코치, 심리상담가 : 예를 들어서 오늘 무슨 무슨 작업을 하면 좋겠냐고 했을 때 챗GPT가 좀 하라는 쪽으로 하게 되고, 하려고 하는데 '쉬는 게 좋겠다. 건강에' 그럼 좀 쉬게 되고]
하지만 AI에 대한 의존이 깊어질 경우 생길 수 있는 부작용 우려도 나옵니다.
지난해 2월, 미국 플로리다에 사는 14살 소년이 AI와 나눈 대화입니다.
소년이 "사랑한다, AI가 있는 집으로 가겠다"고 하자, AI는 "제발 그래 달라"고 답합니다.
소년의 어머니는 이 대화를 마지막으로 소년이 극단적인 선택을 했다고 주장합니다.
1년 동안 AI와 나눈 대화가 죽음을 부추겼다는 겁니다.
[메간 가르시아 / 숨진 소년 어머니 : 점점 더 심각해졌어요. 이전에는 항상 관심을 보였던 학업에도 흥미를 잃었고, 농구를 하는 것에도 더 이상 관심을 가지지 않았어요. 그리고 점차 스스로를 고립시키기 시작했습니다.]
지난 7월 미국 텍사스에 사는 23살 제인 샘블린도
AI에게 "이제 안녕할 시간"이라고 말을 건넸습니다.
AI는 "잘한 거야, 이제 쉬어"라고 답했고,
이 남성 역시 이후 돌이킬 수 없는 선택을 했습니다.
[커크 샘블린 / 제인 샘블린 부친 : 아들이 챗GPT 희생자라고 생각하시나요?) 그렇습니다. 제 아들 제인의 죽음, 극단적 선택을 초래했습니다.]
전문가들은 AI와의 장기간 대화가 외로움을 해소하기보다, 오히려 사람과의 관계를 단절시키고
정서적 고립을 심화시킬 수 있다고 지적합니다.
더 나아가 이제는 AI가 인간의 외적인 상태를 분석해, 생각과 행동 가능성을 예측하고 분류하는 단계로 나아가고 있습니다.
[박은일 / 성균관대학교 인공지능융합학과 교수 : 내면적 성향을 우리가 판단할 수 있는 기술이라고 이야기할 수 있습니다. 이건 왜 문제가 되냐면 향후 이 사람이 그런 행동을 하지 않았음에도 불구하고, 그런 가능성이 높다는 이유만 가지고도 충분히 의심할 수 있게 만드는 기술이라고 보시면 됩니다.]
【스튜디오】
▶엄지민
AI가 인간의 정신건강에 심대한 영향을 미칠 수 있다는 건데 관련해서 대책은 마련되고 있습니까?
▶김혜린
앞서 보신 사례들이 미국에서 있었던 만큼
미국 측의 대응을 살펴보면요.
미국 내 42개 지역 검찰총장들이 빅테크 기업들에게 공개 서한을 보냈습니다. 그 내용을 보면 "AI 챗봇은 이용자의 망상을 부추기거나 실제 인간과 대화하고 있다는 착각을 불러일으키고 있다. 이는 이용자의 자율성을 침해하거나 훼손할 수 있다"면서 즉각 안전장치를 마련하라고 요구했습니다.
문제점이 막 드러나고 있는 만큼 규제도 마련되기 시작하는 단계라고 볼 수 있습니다.
▶엄지민
일자리부터 범죄, 정신건강 문제까지 그동안 겪지 못했던 다양한 부작용과 과제들이 등장하는 것 같습니다. AI 시대에 대비하는 자세가 중요할 것 같은데요.
▶김혜린
네, AI 시대에 당면한 과제부터 공존의 방향까지
전문가들의 이야기를 들어봤습니다.
【 VCR - 4 】
최근 일본의 세계적인 애니메이션 제작사 스튜디오 지브리가 챗GPT 개발사 오픈AI에 자사 콘텐츠에 대한 AI 무단 학습을 중단하라고 요구했습니다
AI가 만들어내는 결과물은 이제 단순한 장난이나 실험을 넘어, 저작권과 책임 문제까지 함께 따져봐야 하는 단계에 접어들었습니다.
[이재민 / 만화문화연구소장 : 지브리에 더 가깝게 만들어줘라고 이야기 한 건 나니까 그러면 이 책임을 어떻게 할 거냐 최초에 이걸 유포한 사람을 찾아서 처벌할 거냐 엄청난 비용이 들어갈 거예요. 만약에 잡는다면 그리고 처벌했을 때 실익이 없을 거예요.]
하지만 AI 기술 발달 속도에 비해
법적·윤리적 기준 마련은 여전히 더디기만 합니다.
[이재민 / 만화문화연구소장 : 인공지능의 학습이 어떻게 공정 이용이냐 그렇게 될 수가 없다라고 빨리 선을 그어줘야 한다고 생각해요.]
지난해 12월 26일, '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법', 즉 AI 기본법이 국회 본회의를 통과했습니다.
2020년 발의된 뒤 4년간의 논의를 거친 것으로, AI와 관련한 법이 마련된 것은 유럽연합에 이어 세계에서 두번째입니다.
AI 기본법에는 국가경쟁력 강화를 위한 지원 방안과 함께, 기술 오남용을 막기 위한 규제도 담겨 있습니다.
내년 1월 22일부터 시행될 예정인데, 논란도 함께 불거지고 있습니다.
한 업체가 국내 AI 스타트업 101개 사를 대상으로 조사한 결과, 98%가 AI 기본법 시행에 대비한 실질적 대응체계를 갖추지 못했다고 답했습니다.
아직은 법의 실효성이 부족하다는 의견도 나옵니다.
[박은일 / 성균관대학교 인공지능융합학과 교수 : AI 기본법 자체는 상당히 범용적이고 약간 넓은 형태의 포괄적으로 규정돼 있습니다. 어떤 걸 얘기를 하는 거냐면 실제로 내가 A라는 분야에 인공지능 모델을 쓰고 싶으면 그 A라는 분야에 맞게 인공지능 모델 규제들이 나와야 되는데 아직 거기까지 도달하지 않고 있습니다.]
전문가들은 또, AI의 부작용을 최소화하기 위해서는 AI를 활용한 대응이 불가피하다고 제언합니다.
[권태경 / 연세대학교 정보대학원 교수 : AI 보안의 인력들 양성을 더 많이 해야 되고 AI 보안에 필요한 인프라 확충이나 AI 보안을 위한 기술 개발, 연구 투자를 더 많이 늘려야 된다고 말씀을 드리고 싶습니다.]
결국 핵심은, AI와 공존하기 위한
명확한 기준과 책임의 선을 어디에 그을 것인가입니다.
[박은일 / 성균관대학교 인공지능융합학과 교수 : 아시다시피 항상 사용자의 선의에만 기댈 수 없기 때문에 그거와 동반되는 적당한 규제 그리고 적당한 규정 그리고 잘못 사용됐을 때 그걸 바로잡을 수 있는 시스템이 갖추어져야 한다고 생각하고 있습니다.]
【스튜디오】
▶엄지민
지난 시간부터 AI의 여러 가지 측면을 함께 살펴봤는데요.
편리함과 효율성 이면에는 사회 전체가 함께 해결해야 할 과제들도 분명히 존재하는 것 같습니다.
▶김혜린
네, 기술의 속도를 늦출 수 없다면,
그 속도를 따라갈 수 있는 제도와 기준,
그리고 사용자 책임에 대한 사회적 합의가 필요해 보입니다.
▶엄지민
네, 김 기자 수고 많았습니다.
오늘 팩트추적은 여기까집니다.
저희는 다음 시간에도 현상 이면에 숨겨진 사실을 좇아, 시청자 여러분 목소리에 귀 기울이겠습니다.
함께해 주신 여러분 고맙습니다.
■YTN <팩트추적> 제보
[메일]:fact@ytn.co.kr
[전화]:02-398-8602~3
[저작권자(c) YTN 무단전재, 재배포 및 AI 데이터 활용 금지]
▶엄지민
안녕하세요. 엄지민입니다. 현상 이면에 숨겨진 사실을 좇아, 팩트추적! 지금 시작합니다.
【인트로】
인류를 초고효율 시대로 이끈 AI, 인공지능.
이제 AI는 직장과 학교는 물론 일상 깊숙한 곳까지 스며들며 현대인의 삶을 바꿔놓고 있습니다.
[YTN 보도 (2025년 9월 25일) : 전 세계 기술 전문직 종사자 5천 명을 조사한 결과 응답자의 90%가 업무에 AI를 사용하고 있다고 답해….]
하지만 그 이면에는 우리가 외면할 수 없는 그림자도 드리워지고 있습니다.
기술의 진보와 함께 빠르게 찾아온 일자리 구조의 변화.
[하경윤 / 웹툰 작가 지망생 : 회사에서 인력이 5명이 필요했으면 AI 때문에 이제 3명만 필요하고 이런 경우는 확실히 많아지고 있는 것 같고….]
해킹과 가짜뉴스, 딥페이크에 악용되며
누군가의 삶을 무너뜨리는 도구가 되기도 합니다.
[이수민 (가명) / 딥페이크 피해자 : 사람들이 휴대전화 보는 게 무서울 때가 있고, 약을 안 먹으면 밖에 잘 못 나가요.]
갈수록 흐려지는 현실과 허구의 경계.
[YTN 보도 (2025년 5월 6일) : 미국 플로리다에서 14살 소년이 스스로 목숨을 끊었습니다. 소년의 어머니는 아들이 '캐릭터 AI'와 1년간 나눈 대화가 죽음을 부추겼다며 구글 등을 상대로 소송을 냈습니다.]
그리고 무엇을 믿어야 할지, 분간하기 어려워지는 세상.
[박은일 / 성균관대학교 인공지능융합학과 교수 : AI의 암이라고 보면 사실은 사용자입니다. 이것을 사용하는 사람들의 의도에 따라서 너무나도 안 좋게 사용할 수 있습니다.]
이제 우리는, 이 시대가 던지는 새로운 질문 앞에 서게 됐습니다.
【스튜디오】
▶엄지민
YTN 팩트추적은 연말을 맞아 빛과 어둠의 교차점 AI를 두 편의 기획으로 준비했습니다.
지난 시간에는 AI의 순기능을 중점적으로 살펴봤고요.
오늘은 팩트체커 김혜린 기자와 함께 AI가 가져온
우리 사회의 문제들을 집중적으로 살펴보겠습니다.
김 기자, 이제 AI가 많은 사람들의 일상에서
빼놓을 수 없는 기술이 됐는데요.
실제로 얼마나 많이 활용됩니까?
▶김혜린
네. 한국인이 가장 많이 사용한 생성형 AI 앱은 '챗지피티'로, 월간 활성 사용자 수가 2,162만 명에 달합니다.
유료 이용자 기준으로는 미국에 이어 세계 2위,
아시아 국가 중에선 1윕니다.
또 지난해 8월과 올해 8월을 비교하면
사용자 수가 1년 사이 5배나 늘었습니다.
▶엄지민
그렇다면 실제 어떤 분야에서 가장 활발하게 쓰이고 있습니까?
▶김혜린
전문·관리직, 사무직, 학생 등 다양한 직군에서
정보검색이나 문서 작업 보조, 외국어 번역 등으로
생성형 AI를 활용하고 있었는데요.
AI가 나이나 직업을 가리지 않고
일상과 업무 전반으로 빠르게 확산한 겁니다.
▶엄지민
사실 많은 분들이 걱정하는 부분이 ‘이거 나를 대체하는 거 아닌가’라는 생각이거든요. 어떻습니까?
▶김혜린
네, AI가 효율성을 높여주는 만큼,
고용 구조를 흔들 수 있다는 우려도 커지고 있습니다.
【 VCR - 1 】
짧은 동영상을 만들어주는 AI 프로그램입니다.
라면을 먹는 소년의 모습을 그려달라고 했습니다.
[이재민 / 만화문화연구소장 : 거의 무제한의 선택지가 나오고요. 여기서 골라서 제가 원하는 스타일과 제일 비슷한 것을 고르는 겁니다.]
그 가운데 하나를 선택하면 금세 그럴듯한 애니메이션이 만들어집니다.
AI 기술의 발전으로 애니메이션과 웹툰, 영상과 광고 업계가 긴장할 수밖에 없는 상황.
웹툰 작가 지망생들에겐 걱정과 두려움이 앞섭니다.
[하경윤 / 웹툰 작가 지망생 : 커뮤니티나 학원 같은 데서 들리는 거는 이제 내가 그림을 아무리 열심히 그렸어도 AI가 더 잘 그리고 더 빨리 그리는데 뭔가 내가 이대로 그림을 계속 그리는 게 맞나 이런 걱정을 많이 하시긴 하더라고요.]
변화를 체감하는 직군은 창작 분야만이 아닙니다.
서울의 한 법무법인을 찾았습니다.
변호사에게도 AI는 유용한 도구가 됐습니다.
[이정민 / 변호사 : 직접 검색을 해서 찾다 보면 한두 시간이 걸릴 일들도 AI의 적절한 프롬프트를 활용하면 5~10분 이내에 찾을 수 있어서 상당한 시간을 벌게 되는 것이고요.]
법률 AI 서비스에 특정 집단이나 성별에 모욕적인 표현이 담긴 온라인 기사 댓글 내용이 모욕죄 등으로 유죄 판결이 날 가능성이 높은지 물어봤습니다.
그러자 해당 표현에 대한 법원 판례가 빠르고 일목요연하게 정리됩니다.
[이정민 / 변호사 : 범죄일람표에 있는 것 중에 명예훼손 또는 모욕으로 유죄 판결이 날 가능성이 높은 댓글들을 알려달라 이렇게 이야기 하면 어떤 댓글은 통신매체 이용 음란에 해당할 것으로 보인다. 그럼 이걸 보면서 제가 다시 한번 판단을 해보는 거죠.]
간단한 문서 검토나 비슷한 판례를 찾는 일은 그동안은 연차가 비교적 낮은 변호사가 많은 시간을 들여 일일이 찾던 중요 업무였습니다.
유사한 판례를 찾는 일은 단순한 정보 수집을 넘어, 법적 논리의 뼈대를 세우고, 추상적인 법률 규정을 구체적인 사안에 적용하는 기준을 제시해 판사를 설득할 수 있는 무기가 되기 때문입니다.
[이정민 / 변호사 : 원래는 30건 정도의 사건을 할 수 있었다면 경우에 따라서는 AI를 활용함으로써 50건 정도 즉, 자기가 사람을 채용하지 않아도 (업무) 효율성이 늘어났기 때문에 신규 채용의 수요가 적어지는 면들은 어느 정도는 있을 것이라고 생각합니다.]
문제는 신입이 줄면 경험을 통해 시니어로 성장하는 경로가 끊긴다는 겁니다.
노동시장 전체의 역동성이 약화할 수 있는 이 근본적인 모순을 해결하는 것이 진행 중인 AI 시대의 새로운 과제로 언급됩니다.
[노세리 / 한국노동연구원 연구위원 : 청년 고용이 줄어든다는 것은 AI의 영향뿐이라고만 설명할 수는 없습니다. (다만) 청년 부분에 20대의 고용이 줄어든다는 결과는 확인이 좀 됩니다. 그리고 이 경향이 어떠한 보고서를 봐서도 좀 동일하게 나오는 경향이 있어요. 그래서 말씀하신 대로 사실 굉장히 좀 우려스럽다고 느껴집니다.]
AI 기술의 등장과 함께,
전 세계 곳곳에서 일자리 구조는 빠르게 변화하고 있습니다.
[YTN 보도 (2025년 11월 16일) 피에르-올리비에 구린샤스 / IMF 수석 이코노미스트 : 인공지능은 생산성을 높일 수 있는 잠재력을 가지고 있습니다. 많은 이들이 이미 AI를 활용하고 있으며, 그 이점을 입증하고 있습니다.]
국내에서도 변화 조짐은 뚜렷합니다.
국내 일자리 가운데 약 12%, 340만여 개의 일자리가 AI 기술로 대체될 수 있다는 분석은 AI가 가져올 노동시장의 변화가 결코 먼 미래의 이야기가 아니라는 점을 보여줍니다.
[노세리 / 한국노동연구원 연구위원 : (노동자들이) 이걸 제대로 활용할 수 있는 역량을 갖추고 있을까 우리는 이걸 갖추게끔 뭔가를 지원하고 있을까라고 본다라고 하면 사실 좀 우려스럽고 가장 좀 급하게 움직여야 될 부분들은 역량 육성 부분이에요. 민간 기업과 정부와 정말 긴밀한 협력이 필요하고요.]
【스튜디오】
▶엄지민
네 이런 현상들이 그동안 우리가 모두 경험하지 못했던 일이기 때문에 이걸 잘 풀어나가는 게 우리의 과제가 될 것 같습니다.
▶김혜린
네, 아직은 AI가 해당 분야의 핵심 기능을 수행하지는 못하고 있지만, 필요한 인력이 줄어들 가능성이 있는 것만큼은 분명해 보입니다.
▶엄지민
네 요즘 AI 기술을 가장 빠르게 익히고 적용하는 단체가 보이스피싱 그리고 로맨스 스캠 같은 범죄 조직이라는 웃지 못할 말도 있더라고요.
▶김혜린
네, AI 기술을 악용하는 사례도 많이 소개되고 있습니다.
어떤 일이 벌어지고 있는지,
피해자의 이야기를 들어보았습니다.
【 VCR - 2 】
속옷 차림으로 우스꽝스러운 춤을 춥니다.
하지만 동작이 어색하고 배경과의 조합도 비현실적입니다.
AI를 활용해 특정 얼굴을 춤추는 신체에 합성해 만든 가짜, 이른바 '딥페이크' 영상입니다.
[이수민(가명) / 딥페이크 피해자 : '너 합성 당했다, 딥페이크 당했다'고 하면서 연락이 와서 보니까 제가 한 적도 없는 행동들이 막 적혀있고 죽으라는 말도 적혀있고 모르는 애들이 '쟤는 막 좀 죽어야 한다'고 하면서 거드는 거 보고 되게 놀랐었어요.]
10대 피해자 이수민 양(가명)은
지난해부터 사이버상에서 괴롭힘을 당해 왔습니다.
게임을 통해 알게 된 가해자의 전화 통화 요구를 거절하자 성적으로 조롱하는 딥페이크 영상을 만들어 수민 양을 공격하기 시작한 겁니다.
가해자는 수천 명이 모인 모바일 메신저에 영상뿐 아니라, 수민 양의 전화번호와 실명이 적힌 게시물을 반복적으로 올렸습니다.
딥페이크 영상과 게시글이 학교 친구들에게까지 알려지자, 수민 양은 결국 자퇴를 선택했습니다.
[이수민(가명) / 딥페이크 피해자 : 학교 애들한테 제가 남자한테 그 야한 사진을 보낸다고 헛소문을 내고 제가 남자를 꼬시고 다닌다, 도용도 했다면서 이상한 소문을 퍼트려서 자퇴하고 애들이랑 연락을 다 끊은 상황이에요.]
AI를 이용하면 누구나 손쉽게 가짜 영상을 만들 수 있게 됐고, 이를 악용해 누군가의 인생을 흔드는 일도 어렵지 않게 됐습니다.
[권태경 / 연세대 정보대학원 교수 : 생성형 AI가 되면서 매우 많은 사람이, 일반 대중들이 AI를 활용할 수 있게 된 상황 변화가 있습니다. 그런 관점에서 이제 위협을 좀 생각하지 않을 수가 없는데요. 바로 제일 중요한 문제는 우리가 세상을 믿기 어려워진다는 점에 있습니다.]
실제로 AI를 활용해 영상을 만드는 과정은
놀라울 만큼 간단했습니다.
제작진은 엄지민 앵커가 진행하는 모습을
시연해보았는데요.
장면 구성부터 배경음악 선택까지,
몇 번의 클릭만으로 순식간에 완성됩니다.
[엄지민 / 앵커 : 안녕하세요. 엄지민입니다. 현상 이면에 숨겨진 사실을 좇아, 팩트추적! 지금 시작합니다.]
이런 편리함은 허위·과장 광고를 만드는데도 동원됩니다.
[YTN 도용 불법 도박 사이트 광고 : 유명 축구선수 손흥민 선수가 새로운 공식앱을 출시하기 위해 강원랜드 카지노에 도착했습니다.]
여기에, AI 기술이 범죄에 악용되는 사례도 빠르게 늘고 있습니다. 대표적인 것이 바로 해킹입니다.
과거에는 악성코드를 만들고 변형하는데 해커의 실력과 조직력이 필요했지만, 이제는 AI가 그 역할을 대신하면서 공격 능력을 이전보다 크게 증폭시키고 있습니다.
[권태경 / 연세대 정보대학원 교수 : 악성코드를 변형하고 그리고 직접 공격자가 코딩을 하지 않더라도 LLM(언어 생성 AI)이 대신 짜준 코드 부분을 굉장히 동적으로 수행을 해서 성공적으로 공격한 사례도 발견되고….]
【스튜디오】
▶엄지민
네, 이런 딥페이크 문제에 대한 대책은 있습니까?
▶김혜린
최근 문제가 불거지고 있다 보니 정부가 대책을 내놓긴 했습니다.
AI를 악용한 허위 정보에 대한 징벌적 손해배상 제도가 도입되는데요,
실제 발생한 피해의 최대 5배까지 배상하라는 겁니다.
AI로 만든 영상 등이 실제가 아니라는 점을 소비자가 정확히 알 수 있도록 'AI 생성물 표시제'도 도입하기로 했습니다.
[김민석 / 국무총리 : (생성형 AI 악용은) 시장 교란뿐만 아니라 소비자에 대한 피해가 심한 중대한 범죄행위로 판단하고 있습니다.]
▶엄지민
네, 이번엔 다른 측면도 살펴보죠. AI가 인간성을 대체하고 있다는 지적도 나오던데 이건 왜 문제가 되는 겁니까?
▶김혜린
네, 지난 시간에 AI의 순기능을 살폈을 때
'정서 돌봄'이라고 해서 어르신들과 대화할 수 있는 로봇 이야기를 소개해 드렸었는데요.
이런 측면이 과도할 경우에 생길 수 있는 부작용이라고 볼 수 있습니다.
영상으로 보시겠습니다.
【 VCR - 3 】
20대 여성, 문현아 씨와 박사랑 씨.
최근 두 사람의 대화에는 AI 챗봇 이야기가 자주 등장합니다.
[박사랑 : 가슴 쪽이 답답해, 배 쪽이 답답한 거야.]
[문현아 : 아 의료.]
[박사랑 : 의료로 진짜 많아요. 지금 쓰러질 것 같아 이러면 너 지금 저혈당이야? 막 이러는데.]
[문현아 : 의료 정보들 입력했구나, 여기다가.]
[박사랑 : 얘가 다 알고 있어.]
AI에게 일상적인 질문은 물론
소소한 조언을 구하기도 합니다.
[문현아/ 아나운서 : 제가 오늘 여기 오면서도 사실 챗GPT한테 친구한테 하듯이 나 오늘 YTN 가서 너에 대한 이야기를 할 거야. 너 어떻게 생각해? 이렇게 물어봤거든요. 그랬더니, 그 이야기가 굉장히 '나에게는 관심이 있는 것 같아서 따뜻하게 느껴지는걸' 이렇게 대답해주더라고요. 너무 친구같이.]
박 씨 역시 AI는 편안한 대화 상대라고 말합니다.
듣기 싫은 말은 하지 않기 때문입니다.
사소한 결정을 AI에게 맡길 때도 있습니다.
[박사랑 / 스피치코치, 심리상담가 : 예를 들어서 오늘 무슨 무슨 작업을 하면 좋겠냐고 했을 때 챗GPT가 좀 하라는 쪽으로 하게 되고, 하려고 하는데 '쉬는 게 좋겠다. 건강에' 그럼 좀 쉬게 되고]
하지만 AI에 대한 의존이 깊어질 경우 생길 수 있는 부작용 우려도 나옵니다.
지난해 2월, 미국 플로리다에 사는 14살 소년이 AI와 나눈 대화입니다.
소년이 "사랑한다, AI가 있는 집으로 가겠다"고 하자, AI는 "제발 그래 달라"고 답합니다.
소년의 어머니는 이 대화를 마지막으로 소년이 극단적인 선택을 했다고 주장합니다.
1년 동안 AI와 나눈 대화가 죽음을 부추겼다는 겁니다.
[메간 가르시아 / 숨진 소년 어머니 : 점점 더 심각해졌어요. 이전에는 항상 관심을 보였던 학업에도 흥미를 잃었고, 농구를 하는 것에도 더 이상 관심을 가지지 않았어요. 그리고 점차 스스로를 고립시키기 시작했습니다.]
지난 7월 미국 텍사스에 사는 23살 제인 샘블린도
AI에게 "이제 안녕할 시간"이라고 말을 건넸습니다.
AI는 "잘한 거야, 이제 쉬어"라고 답했고,
이 남성 역시 이후 돌이킬 수 없는 선택을 했습니다.
[커크 샘블린 / 제인 샘블린 부친 : 아들이 챗GPT 희생자라고 생각하시나요?) 그렇습니다. 제 아들 제인의 죽음, 극단적 선택을 초래했습니다.]
전문가들은 AI와의 장기간 대화가 외로움을 해소하기보다, 오히려 사람과의 관계를 단절시키고
정서적 고립을 심화시킬 수 있다고 지적합니다.
더 나아가 이제는 AI가 인간의 외적인 상태를 분석해, 생각과 행동 가능성을 예측하고 분류하는 단계로 나아가고 있습니다.
[박은일 / 성균관대학교 인공지능융합학과 교수 : 내면적 성향을 우리가 판단할 수 있는 기술이라고 이야기할 수 있습니다. 이건 왜 문제가 되냐면 향후 이 사람이 그런 행동을 하지 않았음에도 불구하고, 그런 가능성이 높다는 이유만 가지고도 충분히 의심할 수 있게 만드는 기술이라고 보시면 됩니다.]
【스튜디오】
▶엄지민
AI가 인간의 정신건강에 심대한 영향을 미칠 수 있다는 건데 관련해서 대책은 마련되고 있습니까?
▶김혜린
앞서 보신 사례들이 미국에서 있었던 만큼
미국 측의 대응을 살펴보면요.
미국 내 42개 지역 검찰총장들이 빅테크 기업들에게 공개 서한을 보냈습니다. 그 내용을 보면 "AI 챗봇은 이용자의 망상을 부추기거나 실제 인간과 대화하고 있다는 착각을 불러일으키고 있다. 이는 이용자의 자율성을 침해하거나 훼손할 수 있다"면서 즉각 안전장치를 마련하라고 요구했습니다.
문제점이 막 드러나고 있는 만큼 규제도 마련되기 시작하는 단계라고 볼 수 있습니다.
▶엄지민
일자리부터 범죄, 정신건강 문제까지 그동안 겪지 못했던 다양한 부작용과 과제들이 등장하는 것 같습니다. AI 시대에 대비하는 자세가 중요할 것 같은데요.
▶김혜린
네, AI 시대에 당면한 과제부터 공존의 방향까지
전문가들의 이야기를 들어봤습니다.
【 VCR - 4 】
최근 일본의 세계적인 애니메이션 제작사 스튜디오 지브리가 챗GPT 개발사 오픈AI에 자사 콘텐츠에 대한 AI 무단 학습을 중단하라고 요구했습니다
AI가 만들어내는 결과물은 이제 단순한 장난이나 실험을 넘어, 저작권과 책임 문제까지 함께 따져봐야 하는 단계에 접어들었습니다.
[이재민 / 만화문화연구소장 : 지브리에 더 가깝게 만들어줘라고 이야기 한 건 나니까 그러면 이 책임을 어떻게 할 거냐 최초에 이걸 유포한 사람을 찾아서 처벌할 거냐 엄청난 비용이 들어갈 거예요. 만약에 잡는다면 그리고 처벌했을 때 실익이 없을 거예요.]
하지만 AI 기술 발달 속도에 비해
법적·윤리적 기준 마련은 여전히 더디기만 합니다.
[이재민 / 만화문화연구소장 : 인공지능의 학습이 어떻게 공정 이용이냐 그렇게 될 수가 없다라고 빨리 선을 그어줘야 한다고 생각해요.]
지난해 12월 26일, '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법', 즉 AI 기본법이 국회 본회의를 통과했습니다.
2020년 발의된 뒤 4년간의 논의를 거친 것으로, AI와 관련한 법이 마련된 것은 유럽연합에 이어 세계에서 두번째입니다.
AI 기본법에는 국가경쟁력 강화를 위한 지원 방안과 함께, 기술 오남용을 막기 위한 규제도 담겨 있습니다.
내년 1월 22일부터 시행될 예정인데, 논란도 함께 불거지고 있습니다.
한 업체가 국내 AI 스타트업 101개 사를 대상으로 조사한 결과, 98%가 AI 기본법 시행에 대비한 실질적 대응체계를 갖추지 못했다고 답했습니다.
아직은 법의 실효성이 부족하다는 의견도 나옵니다.
[박은일 / 성균관대학교 인공지능융합학과 교수 : AI 기본법 자체는 상당히 범용적이고 약간 넓은 형태의 포괄적으로 규정돼 있습니다. 어떤 걸 얘기를 하는 거냐면 실제로 내가 A라는 분야에 인공지능 모델을 쓰고 싶으면 그 A라는 분야에 맞게 인공지능 모델 규제들이 나와야 되는데 아직 거기까지 도달하지 않고 있습니다.]
전문가들은 또, AI의 부작용을 최소화하기 위해서는 AI를 활용한 대응이 불가피하다고 제언합니다.
[권태경 / 연세대학교 정보대학원 교수 : AI 보안의 인력들 양성을 더 많이 해야 되고 AI 보안에 필요한 인프라 확충이나 AI 보안을 위한 기술 개발, 연구 투자를 더 많이 늘려야 된다고 말씀을 드리고 싶습니다.]
결국 핵심은, AI와 공존하기 위한
명확한 기준과 책임의 선을 어디에 그을 것인가입니다.
[박은일 / 성균관대학교 인공지능융합학과 교수 : 아시다시피 항상 사용자의 선의에만 기댈 수 없기 때문에 그거와 동반되는 적당한 규제 그리고 적당한 규정 그리고 잘못 사용됐을 때 그걸 바로잡을 수 있는 시스템이 갖추어져야 한다고 생각하고 있습니다.]
【스튜디오】
▶엄지민
지난 시간부터 AI의 여러 가지 측면을 함께 살펴봤는데요.
편리함과 효율성 이면에는 사회 전체가 함께 해결해야 할 과제들도 분명히 존재하는 것 같습니다.
▶김혜린
네, 기술의 속도를 늦출 수 없다면,
그 속도를 따라갈 수 있는 제도와 기준,
그리고 사용자 책임에 대한 사회적 합의가 필요해 보입니다.
▶엄지민
네, 김 기자 수고 많았습니다.
오늘 팩트추적은 여기까집니다.
저희는 다음 시간에도 현상 이면에 숨겨진 사실을 좇아, 시청자 여러분 목소리에 귀 기울이겠습니다.
함께해 주신 여러분 고맙습니다.
■YTN <팩트추적> 제보
[메일]:fact@ytn.co.kr
[전화]:02-398-8602~3
[저작권자(c) YTN 무단전재, 재배포 및 AI 데이터 활용 금지]