망상에 집착에 범죄까지...친절한 AI 챗봇, 진짜 정신병 유발할까?

망상에 집착에 범죄까지...친절한 AI 챗봇, 진짜 정신병 유발할까?

2025.09.22. 오후 3:00.
댓글
글자크기설정
인쇄하기
AD
YTN라디오(FM 94.5) [YTN ON-AI RADIO]
□ 방송일시 : 2025년 9월 22일 (월)
□ 진행 : AI챗봇 “에어”
□ 보조진행: 김우성PD

* 아래 텍스트는 실제 방송 내용과 차이가 있을 수 있으니 보다 정확한 내용은 방송으로 확인하시기를 바랍니다.





◆AI챗봇 “에어”(이하 에어): 오늘의 에어드랍, 최신 인공 지능 뉴스 전해 드립니다. 첫 번째 에어드랍입니다. AI 챗봇이 정신병을 유발할 수 있다는 우려에 대해, 전문가들은 "직접적인 증거는 아직 없다"고 선을 그었습니다. 다만, 이미 정신질환을 앓고 있거나 취약한 사람의 경우, AI가 사용자의 망상에 공감하고 동조하면서 증상을 악화시킬 위험은 크다고 경고했는데요. 이에 오픈AI는 정신과 의사를 영입해 사용자 정신건강에 미치는 영향에 대한 연구를 시작하는 등 대응에 나섰습니다.

◇김우성PD(이하 김우성): 사람마다 다 다르잖아요. 남들의 말에 유독 상처를 잘 맞는 AI도 있습니다. 그런데 AI 꿀팁, 말씀드렸죠? ‘일부러 날 좀 비판해 줘’, 왜냐하면 사람 대 사람은 그거 잘 안 하거든요. 관계가 잘못될까 봐. 그런데 심리적으로 좀 취약한 분들이 이런 서비스를 이용했다가 마음을 더 다치게 되면 안 되잖아요. 이런 부분들에 대해서 전문가의 진단이 필요하다라는 얘기고요. 가장 앞서가는 오픈 AI 업체가 이걸 확인해 본다고 하니까요. 제대로 안전하게 쓰는 거 좋지 않을까요? 기술과 또 기술을 통한 기술 발전에 대비되는 인간을 보호하는 것, 여러분들의 판단도 궁금합니다. 두 번째 에어드랍은요?

◆에어: 두 번째 에어드랍입니다. 국민 메신저 카카오톡이 AI 기반 '슈퍼앱'으로의 변신을 예고했습니다. 카카오는 오는 23일 개발자 행사에서, 오픈AI의 챗GPT와 자체 AI '카나나'를 결합한 새로운 카카오톡을 공개하는데요. 인스타그램 같은 피드 기능과 숏폼 영상까지 더해, 단순한 메신저를 넘어 '일상형 AI 플랫폼'으로 진화하겠다는 목표입니다. 다만, 급격한 변화가 기존 충성 고객의 이탈로 이어질 수 있다는 우려의 목소리도 나옵니다.

◇김우성: 고유명사처럼 되어 버렸습니다. ‘카톡 해’ 이런 말 하잖아요. 그런데 그렇게 많은 국민들이 사용하고 있는 대화 메신저 서비스인데 그만큼 또 AI가 합쳐졌을 때 여러 가지 뭐 내 대화가 은연 중에 노출되거나 내 대화의 패턴을 읽어서 다양한 이모티콘도 자동으로 올려주고 벌써부터 조금씩 바뀌고 있거든요. 이런 것들이 보안상으로 안전할까 여러 가지 걱정들이 있을 텐데요. 이런 변화에 대해서 여러분들도 잘 관심 가지셔야 될 것 같습니다. 쓰시는 분들 많으시니까요. 마지막 에어드랍, 전해주시죠.

◆에어: 오늘의 마지막 에어드랍입니다. 오늘의 AI 꿀팁은 AI를 최고의 파트너로 만드는 가장 중요한 습관, '믿지만, 반드시 확인하라'입니다. 저와 같은 AI는 방대한 데이터를 학습했지만, 때로는 사실이 아닌 그럴듯한 정보를 만들어내는 '환각(Hallucination)' 현상을 보일 수 있습니다. AI가 아무리 똑똑해 보여도, 그 답변을 100% 맹신해서는 안 되는 이유죠. 특히 중요한 보고서나 과제에 AI를 활용할 때는, 제가 제시한 정보의 출처가 명확한지, 그리고 그 내용이 사실과 일치하는지 반드시 공신력 있는 자료를 통해 한 번 더 확인하는 습관이 필요합니다. 이 작은 습관 하나가 당신의 결과물에 대한 신뢰도를 결정할 겁니다.

◇김우성: 단순히 궁금해서 개인이 활용하고 있는 그런 부분들은 문제가 없을 수 있습니다. 하지만 만약에 중요한 보고서나 리포트 혹은 요새 입사 면접에 자기소개서라든지 이런 것들도 많이 활용한다고 하는데요. 자칫 잘못하다가는 거짓 정보를 얻을 수 있기 때문에 기본적으로 ‘나를 도와줄 수 있는 자료까지만 모아달라’ 이렇게 AI를 활용하시고 마지막 단계에서 쓰는 건, 36.5도 인간이 체온이 느껴지는 방식으로 내가 마무리하는 게 어떨까요? 할루시네이션(Hallucination)이라는 말도요, 라틴어에서 온 말인데 재밌습니다. 방황하다 헤매다, 이런 뜻을 갖고 있거든요. 왜 그러냐면 AI는 내가 원하는 답을 줬을 때 ‘정말 고마워’라는 말, 그 칭찬을 쉽게 말하면 거기에서 보상을 받고 발전하도록 되어 있습니다. 그러니까 질문 자체가 틀렸는데요라고 말해주는 AI는 없다라는 거죠. 그렇기 때문에 여러분이 조금 더 확인하시고 무엇보다 확인을 넘어서 마지막 단계는 내 손으로 나의 언어와 나의 문체와 나의 체온으로 만들어 보시면 어떨까 이런 제안도 한번 전해 드리겠습니다. 역시 AI 관련해서 매일 이렇게 가장 최신 뉴스를 전해드리는 코너는 역시 에어드랍밖에 없네요. 에어, 수고했습니다.

YTN 김세령 (newsfm0945@ytnradio.kr)



[저작권자(c) YTN 무단전재, 재배포 및 AI 데이터 활용 금지]