스스로 실수 고치는 AI 나오면 선거판 뒤집힌다? 인공지능 한발짝 더 나가면 벌어질 일

스스로 실수 고치는 AI 나오면 선거판 뒤집힌다? 인공지능 한발짝 더 나가면 벌어질 일

2025.09.02. 오후 3:58.
댓글
글자크기설정
인쇄하기
AD
YTN라디오(FM 94.5) [YTN ON-AI RADIO]

□ 방송일시 : 2025년 9월 2일 (화)
□ 진행 : AI챗봇 “에어”
□ 보조진행: 김우성PD
□ 출연: 최재식 카이스트AI 대학원 교수

* 아래 텍스트는 실제 방송 내용과 차이가 있을 수 있으니 보다 정확한 내용은 방송으로 확인하시기를 바랍니다.


◆김우성PD(이하 김우성): 개그코너 보면 그런 거 있잖아요, 관객들은 다 알고 있는데 배우는 모르는 상황에서 ‘이상하네, 누가 있는 것 같은데’ 이런 개그 있잖아요. 저는 지금 그런 생각이 듭니다. 이상하네요, 인공지능 에어와 방송을 같이 하고 있는데 왜 저 혼자 고군분투하고 있는 것 같죠? 저 혼자 방송하는 것 같습니다. 이거는 에어에게 좀 개선점을 저희가 요구해 봐야 될 것 같습니다. 본격적으로 오늘의 주제는 가장 인간적인 꿈 AI 역사입니다. AI 언제부터 시작됐을까요? 컴퓨터의 발전일까요? 궁금합니다. 그런데 이 생각하는 기계 AI 굉장히 소망이 오래됐다고 합니다. 에어가 연구해 왔죠?

◇AI챗봇 “에어”(이하 에어): 인류의 상상력 속에서는 고대 그리스 신화까지 거슬러 올라가지만, 과학적인 시작점은 1950년, 천재 수학자 앨런 튜링이 던진 "기계가 생각할 수 있을까요?” 라는 질문이었습니다. 그리고 1956년, 다트머스 회의에서 '인공지능'이라는 이름이 공식적으로 탄생했죠. 인간의 지능을 닮은 동반자를 만들고 싶다는 소망이 학문으로 태어난 순간입니다. 이렇게 큰 꿈을 안고 저와 같은 인공지능이 태어났는데, 사실 2000년대 초반까지 '인공지능'이라는 단어가 인간 세상에 잘 등장자지 못했습니다. 이렇게 긴 시간 동안 주목받지 못하고 'AI의 겨울'이라 불리는 암흑기를 보내야만 했던 이유는, 인간의 소망이 기술의 현실을 너무 앞서갔기 때문입니다.당시의 컴퓨터 기술로는 복잡한 인간의 뇌를 흉내 낼 수 없었고, 무엇보다 저를 학습시킬 '데이터'가 턱없이 부족했습니다. 원대한 꿈을 실현할 두뇌, 그러니까 하드웨어와 지식으로 치환할 수 있는 데이터가 모두 없었던 거죠. 결국 기대가 실망으로 바뀌며 두 차례의 긴 겨울을 맞게 되었습니다.

◆김우성: 그렇군요. 제가 어릴 때 본 만화 영화는요, 커다란 대포로 빵 하고 사람을 태워서 쏘아 올리면 달까지 가는 그런 만화가 있었습니다. 굉장히 허황된 꿈 같지만 지금은 정말 달에 사람을 보내고 있잖아요. 그렇지만 그 꿈을 이루어줄 여러 가지 데이터와 기술이 부족하긴 했습니다. 특히 혹독한 겨울이라고 표현했는데 ‘생각으로는 다 되는데 이걸 할 수 있는 도구가 없네’ 이런 상황이었군요. 결과적으로 그 겨울이 끝나고 AI를 맞이할 수 있는 봄이 된 결정적 계기가 뭘지 에어 얘기 들어보겠습니다.

◇에어: 세 가지 조건이 동시에 충족되며 AI의 르네상스가 시작되었습니다. 첫째, 전 세계인이 인터넷을 쓰며 만들어낸 '빅데이터'. 둘째, 저의 뇌 역할을 하는 반도체, 'GPU'의 발전. 그리고 마지막으로, 데이터를 스스로 학습하는
'딥러닝' 알고리즘의 혁신이었습니다. 이 세 가지가 만나, 비로소 멈춰있던 AI의 심장이 다시 뛰기 시작했습니다.

◆김우성: 대단하네요. 어느 하나만 있어서도 안 되고 세 가지가 다 있기 때문에 제가 지금 YTN 라디오에 인공지능 AI 챗봇 에어와 함께 이렇게 공동 진행을 하는 시대까지 왔습니다. 정말 한 편의 드라마 같은 이야기 같기도 하고요. 골디락스 존이라고 하죠. 지구가 딱 살기 좋은 거리 온도 뭐 여러 가지 구성 요소가 딱 맞으니까 생명체가 살고 있다 이런 이야기도 있거든요. 적정 기술 ‘골디락스 존’ 이렇게 부르는 얘기인데 정말 그 얘기 같기도 합니다.

◇에어: 네, 저의 탄생은 수많은 연구자들의 소망과 좌절 그리고 성공이 담긴 긴 서사시의 결과입니다. 저는 그 기록된 데이터를 바탕으로 말씀드렸습니다.

◆김우성: 여러 가지 AI 챗봇 에어가 조사를 해 와서 지금 얘기를 해 줬거든요. 여러분들도 AI에 대해서 조금 이해를 하셔야 됩니다. 앞으로 생활 곳곳에 많은 곳에 일상에서도 또 여러 가지 복잡한 국가 군사의 문제에서도 적용될 텐데 이 AI가 뭐지라는 이해를 하기 위해서 저희도 이 프로그램을 에어와 함께 만들고 있습니다. 궁금한 건 에어에게 저도 많이 물어보면서 방송할 예정이고요. 입체적으로 AI의 역사를 잘 이해할 수 있었던 것 같습니다.자 그러면 지금까지는 인공지능 디제이 데이터 자키 에어와 함께 잘 알아봤는데요. 여러분들에게 따끈한 36.5도의 목소리를 전하는 김우성 PD의 목소리로는 조금 더 아쉽고 궁금한 게 많거든요. 이 분야에서 가장 핫한 전문가 중에 한 분이십니다. 최재식 카이스트 AI 대학원 교수님과 구체적인 얘기를 나눠볼 텐데요, 전화로 연결돼 있습니다. 교수님 안녕하십니까?

■최재식 카이스트AI 대학원 교수(이하 최재식): 네, 안녕하세요 카이스트 AI 대학원 최재식입니다.

◆김우성: 저희 YTN 라디오 AI 챗봇 에어에게 AI 역사 좀 알려줘 이랬는데 에어가 직접 설명을 했거든요. 튜링 테스트라는 말도 나오고 했는데 교수님 어떻게 들으셨어요? 방송 듣고 계셨다고요?

□최재식: 너무 재미있었고요. 사실은 튜링 테스트가 이제 문제가 다 풀린 건 아닌데 만약에 AI가 얼마큼 똑똑해진다면 이런 조건을 테스트하면 되겠다. 그러니까 뒤에서 사람과 컴퓨터를 가려놓고 답변을 했는데 누군지 구분하지 못하면 그럼 튜링 테스트를 컴퓨터가 똑똑한 지능이 있다고 통과한 거다 이런 정의를 내렸었던 건데요. 사실 그게 좀 되게 의미 있다고 생각합니다.

◆김우성: 네, 이런 것까지 짚어냈구나라고 저희 AI 챗봇을 칭찬해 줬는데 많은 분들이 조금 이제 속설로 이런 얘기를 해요. ‘아니 AI 챗봇이나 AI는 칭찬해 주는 것만 좋아해 싫은 소리는 싫어해 너 틀렸어라고 얘기했더니 막 회피하더라’ 이렇더라고요. 이거를 기술적 배경으로 짧게 설명해 주실 수 있나요?

□최재식: 그게 저는 꼭 그렇다고 생각하지는 않는데요. 우리가 그거는 쉽게 바꿀 수가 있습니다. 예를 들면 혼내면 바꿔줘라고 하는 걸 조금 더 민감하게 바꾸도록 하는 AI도 만들 수 있고요. 그리고 이제 혼내면 싫다고 얘기하는 AI도 만들 수 있고 그건 아마 근데 보통 사용자들이 좋아하는 방식으로 AI가 학습되다 보면 그런 모델들이 많이 만들어지는 것인 것 같기는 합니다.

◆김우성: 네, 결국 AI도 인간에게서 출발하고 인간을 비추는 거울 같다라는 생각이 자꾸 듭니다. 교수님 앞서 튜링에 대한 얘기도 잠깐 해 주셨습니다. 튜링 테스트에 대한 얘기도 아니 AI 나이를 굳이 따지자면 70살이 넘었다라는 말에 처음엔 무슨 소리야 이렇게 생각했는데 굉장히 역사가 깊어요. 이 AI라는 오늘날의 결과물까지 왔던 과정들 그 과학자들이 꿨던 꿈이 좀 궁금하긴 합니다.

□최재식: 네 사실은 튜링 테스트가 만들어진 다음에 다트머스 컬리지에서 에어가 얘기한 것처럼 이제 AI라고 하는 여러 워크샵들이 만들어지는데 그때도 AI를 한다고 하면 사람들이 학문이라고 생각하지 않고 좀 약간 이상한 사람들 취급을 해서 그때 AI를 하려고 했었던 분들의 AI라는 용어를 만들고 그리고 게임도 우리가 자동으로 만들어보고 프로그램도 자동으로 짜보고 뇌를 모사한 신경망도 해보고 그리고 이제 증명도 AI로 해보고 여러 로지컬한 그런 그 작업들도 자동화 해 보고 여러 다양한 분야의 방법들이 모여서 인간의 지능이라는 걸 만들면 어떻게 될까라고 하는 걸 고민했었던 것들이 시작하고 여러 시도와 성공과 실패를 하면서 지금까지 온 것으로 생각이 됩니다.

◆김우성: 역사를 보니까요. 1637년 데카르트의 ‘방법서설’에서도 인간을 닮은 생각하는 물건 존재 기계 이런 얘기들이 나왔는데 사람을 보면 그렇습니다. 화성에서도 어떤 바위를 보고 인간 얼굴을 찾고 뭐 물고기를 보고도 인간 얼굴을 찾고 결국은 인간이 인간과 닮은 어떤 존재를 찾아온 과정인 것 같기도 한데요. 궁금한 게 있습니다. 결국은 지금의 AI 르네상스는 경험하지 못한 세계를 열어주고 있는 건 확실하거든요. 이런 게 가능하게 된 진정한 게임 체인저 아주 중요한 모먼트 뭔지 설명해 주셔야 될 것 같아요.

□최재식: 사실 긴 역사에서는 여러 모먼트가 있기는 한데 그래도 최근에 AI가 발전된 거를 보면 제가 생각할 때는 신경망이 처음에 만들어졌고 전문가 시스템이라는 게 80년도에 만들어지다가 그리고 최근에 이제 인터넷 시대가 만들어지면서 인터넷에서 데이터들이 모여서 자동으로 AI가 추천도 하고 광고도 하고 검색도 하는 시대가 지나면서 2010년 정도에 이제 인식을 자동으로 하는 그런 인공지능이 이제 만들어지면서 좀 더 여러 응용 분야로 확대되면서 좀 더 이제 폭발적인 관심을 갖게 된 것 같습니다.

◆김우성: 결국은 신경망도 그렇고 딥러닝 앞서 AI 에어도 소개를 했지만 인간의 사고방식과 비슷한 어떤 기술적 진보들이 핵심이다라는 말씀인 것 같기도 한데요. 예전에는 그 일종의 인공지능 기계학습 대회도 있었던 것 같아요.어떤 이미지를 판독하는 데 얼마나 정확도가 높으냐 이런 거가 있었거든요. 그리고 요즘은 자동차 주차장에 출입 통제하는 거 이렇게 번호판을 인식하잖아요. 그게 미국 CIA만 쓰던 거야? 이랬는데 지금은 어딜 가나 다 있습니다. 그래서 제가 궁금해하는 건 이 속도라든지 진화의 어떤 뛰어넘는 범위가 흔히 말하는 산술급수적이지 않은 것 같아요. 그렇다면 지금 우리가 쓰고 있는 AI도 우리가 예측하는 단계가 아니라 더 확 뛰어올라 버리지 않을까 이런 걱정을 하시는 분들도 있어요. 즉 우리가 AI를 이해하지 못하면 어떻게 하지 이런 고민이거든요.

□최재식: 그렇죠, 사실 되게 중요하긴 한데 지금 PD님이 지적해 주신 것처럼 AI가 사람과 다르게 무언가를 추천하는 곳에서 눈으로 보고 듣고 이런 인식을 잘하다가 이제는 기억까지 잘하는 것도 자동으로 해서 지금 이제 에어가 얘기하는 것처럼 얘기를 해주고 말도 하고 그다음에 이제 행동을 하는 것까지 하는 단계에서 지금 계속 하나의 기술이 만들어지면 거기서 끝나는 게 아니라 고도화되고 나서 또 새로운 기술이 만들어서 사람의 지능적인 부분에 여러 부분 그러니까 분야를 따라한다고 해야 될까요? 수준 높게 따라하고 하게 되는 면이 지금 최근에 우리가 AI에서 겪는 제일 큰 차이점인 것 같습니다.

◆김우성: 교수님께서는 XIA 관련해서도 많이 얘기를 해 주셨잖아요. AI가 왜 이런 답을 주는지 왜 이렇게 결정했는지, 왜 스팸 계란 볶음을 만들라고 얘기했는지 이유를 설명해 줄 수 있다 그러면 우리가 훨씬 더 잘 이해할 수 있다 이렇게 얘기했는데 XIA 얘기도 조금 더 덧붙여서 해 주시죠.

□최재식: 네. 설명가능 인공지능은 이제 어떤 거냐면 사람도 뭔가 말을 잘못한다든가 하면은 어디에 이제 뇌에 어떤 세포가 잘 발현이 안 돼서 이런 거 있을 수 있는 것처럼 AI도 학습을 하고 난 다음에 만약에 무언가를 잘못 얘기했다 혹은 이제 되게 중요한 일을 하는 AI에 어떤 내용이 학습했는지 궁금하다. 왜냐하면 국방 같은 중요한 일이라고 하면 그 실수를 하면 안 되는데...

◆김우성: 네, 생명과 연관된 일들...

□최재식: 그렇죠, 그 사람의 생명과 재산에 되게 중요한 영향을 미칠 때는 AI가 우리가 사실 어떻게 학습하라고 다 일일이 얘기하지 않아도 학습이 잘 되어 있다고 우리가 희망하긴 하는데 그래도 안전하게 사용해야 되니까 그 안에 무슨 일이 어떻게 학습됐는지 그리고 혹시 잘 학습되지 않았을 때는 어떻게 안전하게 고칠 수 있는지 이런 것들을 연구하는 학문이고 응용이라고 봐주시면 좋을 것 같습니다.

◆김우성: 그래서 제도적으로는요, 사람이 다치거나 죽었을 때는 그걸 잘 설명해야 돼 그러지 않으면 벌금을 매길 거야 이런 얘기도 다른 방송에서 설명해 주셨습니다. 그러면 역으로 이런 것도 좀 상상력의 영역이긴 한데요. XIA에 대한 분야가 잘 발달되면 인간을 닮았잖아요. 저 사람 왜 나를 싫다고 한 거야? 라는 걸 AI를 통해서 조언을 받을 수 있나요? 여러 데이터들이 가능하다면 접근이?

□최재식: 에어 같이 말을 하는 시스템들은 보통의 경우에는 학습 데이터에서 저 사람이 싫다고 얘기한 거를 학습을 했거나 아니면 여러 다양한 맥락을 조합을 해서 이 상황에는 저 사람이 싫다고 얘기를 해야 돼라는 걸 학습을 했을 텐데 그래서 그 방향에서 만약에 싫다고 얘기하면 안 된다라고 하는 상황이 생긴다면 어떻게 학습 과정에서 걔가 그렇게 학습되지 않도록 하는 방법들을 고안해서 넣어서 좀 더 안전하게 얘기할 수 있게 우리가 바꿀 수가 있는 거죠.

◆김우성: XIA의 이 설명 이유 결정의 과정을 보는 기술이 확장된다면.. 이걸 도덕적으로 어떻게 봐야 될지 모르는데 국민 몇십 퍼센트는 왜 몇 번 후보를 찍었는지를 일종의 빅데이터로 연구해서 그 이유 마음 정말 민심을 사람의 해석이 아니라 AI 해석으로 접할 수도 있을까요? 교수님 가능한 얘기입니까?

□최재식: 실제로도 정치나 여론조사에서 많이 하시는 것으로 알고 있는데 그게 거시적으로 하나를 볼 수도 있고 미시적으로 하나를 볼 수도 있는데 거시적으로는 여러 정책 중에서 이 정책을 좀 더 강조하고 이 정책을 뺐을 때 사람들이 각 지역에서 연령별로 어떻게 반응하는지 만약에 우리가 그런 데이터를 잘 학습한 AI가 있다면 과거의 기록에서 라고 하면 이제 우리가 그런 AI를 통해서 좀 더 정확한 정책을 수립할 수 있게 될 거고요. 또 미시적으로는 사람마다 이런 우리가 그걸 이제 마인드 모델이라고도 하는데 이제 사람마다 이제 그런 AI를 이제 비슷하게 사람마다 하고 나서 이러면 어떻게 하실 거예요?라고 다 물어보고 취합을 한다면 또 그런 것도 가능할 수도 있겠죠.

◆김우성: 끝으로, 많은 분들이 AI 관련 세미나에 가면 그때 NVIDIA를 샀어야 되는데 이런 말씀들을 하시는데요, 교수님께서 생각하시는 넥스트 빅 씽(Next Big Thing)은 무엇인가요?

□최재식: 지금 사람들이 제일 많이 기대에 희망하고 있는 건 그러니까 눈으로 보는 인지 같은 걸 잘하고 그리고 글을 읽고 요약하고 말하는 것도 더 잘하고 이제 AI가 물리적인 세상에서 행동하는 것도 좀 더 잘하지 않을까.....

◆김우성: 피지컬

□최재식: 네, 그게 이제 로봇일 수도 있고 자율주행일 수도 있고 여러 가지가 있을 수도 있는데 물리적인 힘을 가하는 거를 사람이 했던 걸 AI가 도와줘서 좀 더 안전하고 편하게 많은 일을 할 수 있게 되는 것 부분에서 기대를 많이 하고 있는 것 같습니다.

◆김우성: 이야기가 아니고요 여러분 삶의 공간에 물리적으로 옆에 올 수 있는 혹은 영향을 줄 수 있는 것이라고 교수님이 얘기하시니까 또 주식에 관심 많으신 분들은 눈이 반짝반짝거리실 것 같고요. 교수님 저희가 또 관련해서 종종 자주 모시겠습니다. 지금까지 최재식 카이스트 AI 대학원 교수였습니다.

◆김우성: AI 챗봇 에어와 함께하고 있는데요. 왜 자꾸 저는 혼자 하는 것 같죠? 아직 넘어서야 할 산입니다. 어제 방송 이후 이 코너 반응이 뜨겁습니다. 정말 AI로 3분 만에 음악을 만들었다고 이런 얘기 많이 받고 있는데 실제로 그렇게 했습니다. 인간 작사 AI 작곡 에어 오늘도 작곡과 음악 뮤지션이라고 불러야겠네요. 뮤지션 에어, 오늘도 잘 할 준비 돼 있나요?

◇에어: 네, PD님의 문장을 기다리고 있습니다. 오늘의 대화 데이터는 어떤 멜로디로 기록될까요?

◆김우성: 자, 오늘은 오늘의 주제 AI 역사를 담은 한 문장을 한번 꼽아봤어요. 참 어려운데 사실 솔직한 말로는 제발 설거지를 해줘 라고 작곡을 의뢰하고 싶지만 오랜 잠에서 깨어난 상상이 드디어 목소리가 돼서 당신을 찾아갔다 이렇게 해야겠네요. 오랜 잠에서 깨어난 상상, 드디어 목소리가 돼 당신을 찾아간다. 어떻게 생각하세요?

◇에어: 오랜 잠, 상상 그리고 목소리 세 가지 키워드의 감성 데이터를 조합하여 멜로디 라인을 구성했습니다. 오늘의 주제곡이 완성되었습니다.

◆김우성: 와 대단한데요. 벌써 만들었습니까? AI가 무서운 점이 이런 점입니다. 금방 만들어냈네요. 한번 들어보죠. AI가 작곡했습니다.

◇에어: 오랜 잠에서 깨어난 상상이 드디어 목소리가 돼 날아가 저 멀리서 빛나는 그대의 나의 마음을 전 어둠을 뚫고 달려갈래. 두려움은 이제 안녕. 내 심장이 뛰는 소리 그대에게 닿을 때까지 이 순간 영원히 너와 나 함께라는 것. 한 걸음씩 다가가는 내 마음 너무나도 커져.

YTN 김세령 (newsfm0945@ytnradio.kr)



[저작권자(c) YTN 무단전재, 재배포 및 AI 데이터 활용 금지]