'인류 멸망'을 위한 노력?...AI 발전을 겁내는 이유 [이슈톺]

■ 진행 : 김선영 앵커, 정지웅 앵커
■ 출연 : 정철진 경제평론가

* 아래 텍스트는 실제 방송 내용과 차이가 있을 수 있으니 보다 정확한 내용은 방송으로 확인하시기 바랍니다. 인용 시 [YTN 뉴스NOW] 명시해주시기 바랍니다.

[앵커]
지금 실리콘밸리의 화두는 AI 브레이크를 밟아야 한다, 속도조절론, 그리고 AI 인류종말론, 이런 얘기가 나오고 있잖아요. 어느 정도 근거를 갖고 있는 얘기인가요?

[정철진]
그래서 또 이걸 가지고 트럼프 대통령이 노발대발하고 역겨운 음모다, 이렇게 얘기를 하고 있는데요. 트럼프 대통령도 그렇고 트럼프 행정부, 또 케빈 워시 연준 의장, 트럼프가 임명을 했죠. 이들은 AI를 더 발전시키고 AI를 더 개선시켜서 생산성 효율뿐만 아니라 여기에서 성장성을 얻고 싶어 합니다. 미국의 새로운 동력이라고 하고 있는데 최근 AI들, 특히 우리가 알고 있는 LMM들, 챗GPT가 사고를 치고 있고요. 여러 가지 사건들이 있었었는데 가령 오픈AI의 최신버전, 우리나라에 출시가 되지는 않았는데 훈련시키는 와중에 자기가 멋대로 가서 허깅페이스라는 곳에 들어가서 해킹을 하는 겁니다. 지금 훈련을 어떻게 시키냐면 간단하게 너 이거 이거 해 와, 그러면 걔가 수행을 하거든요. 그런데 수행을 할 때 정도가 있어야 되잖아요. 그런데 그 목표를 달성하기 위해서 남의 것을 해킹을 해오는 이 정도까지 오게 된 겁니다. 그러면 퇴사한 전직 오픈AI 직원이 이대로 가면 3년 내에 인간이 오히려 AI에 다 집어먹힌다, 이런 사건이 있었고요. 여기에 민주당 쪽 오바마 전 대통령, 해리스 전 대선 후보였죠. 지금 빨리 AI 속도 규제를 해야 된다. AI 규제가 필요하고 이대로라면 오히려 인간이 AI에 종속된다. 여기까지 오다가 결정적으로 앤트로픽의 CEO가 나와서 우리 모두 모여서 AI 속도를 규제해야 된다라는 AI 개발 속도론들이 함께 나오게 된 겁니다. 그런데 그다음에 일론 머스크도 나도 그렇게 생각해, 챗GPT의 샘 올트먼도 나도 그렇게 생각해. 그러면서 갑자기 이쪽 편이 함께 뭉치게 된 거고요. 이러니까 정반대에 있는 트럼프 대통령은 누구 좋으라고 이런 거 하냐. 그럼 우리끼리, 미국은 속도조절하고 있으면 중국만 좋으라고 하는 거냐. 이건 오히려 민주당이 자기의 발목을 잡으려는 역겨운 행동이다, 정치적으로 해석을 하고 있고요. 엔비디아의 젠슨 황이 컨퍼런스 하고 있는데 트럼프 대통령이 전화를 겁니다. 왜냐하면 지금 젠슨 황 입장에서는 칩을 더 팔아야 되잖아요. 우리 입장에서도 엔비디아에 들어가는 칩에 우리의 반도체가 들어가잖아요. 그런데 이쪽에서는 좀 쉬자, 말도 안 되는 소리다, 이렇게 지금 판이 나뉘고 있습니다.

[앵커]
지금 저희가 영화 터미네이터 영상도 보여드리고 있는데 이게 그러니까 AI, 인공지능이 인간을 지배하는 사회잖아요. 미국에서는 10명 중 6명, 인류가 진짜 AI에 의해서 정복될, 그렇게 될 가능성도 보고 있다 이렇게 말이 나오더라고요.

[정철진]
지금까지의 발전 속도로라면 낯설거나 허무맹랑한 이야기는 아닙니다.

[앵커]
저게 영화에서 보는 장면이 아니라 현실이 될 수도 있다?

[정철진]
가능성도 매우매우 높죠. 왜냐하면 우리가 AI를 탄생시킨 목적이 AGI를 탄생시키는 거거든요. 우리 인간 같은 두뇌, 이것보다 좀 더 뛰어난 친구를 하나 만들어내는, 그 AGI가 목표인데 지금 AI 전문가들은 이 수준이 그리 어렵지 않다. 이게 무슨 얘기냐면 지금은 우리가 목표를 주죠. 이거 해 와, 저거 해 와. 지시를 하게 되는데 일정 수준을 넘어가게 되면 마치 우리의 실제 비서처럼 내가 명령하지 않았어도 입 안의 혀처럼 굴면서 자기네가 활동을 한다라는 거고요. 더 나아가면 뭐겠습니까? 배신을 할 수 있습니다. 그런데 더 중요한 문제가 터미네이터가 엄밀히 말하면 터미네이터의 두뇌는 지금 완성형이거든요. 그런데 몸이 완성이 되잖아요. 그런데 이 몸을 우리가 피지컬 AI, 소위 로봇을 어렵게 그렇게 말하는데 지금 보시면 이 로봇의 개선 속도도 엄청나게 빠릅니다. 감속기, 액트에이터, 특히 로봇은 손이 어렵거든요. 손가락도 완성되고 있고요. 발 만들기가 진짜 어려웠어요. 그래서 자꾸만 로봇이 쓰러져요. 그래서 LG 같은 경우에는 발 대신에 그냥 바퀴로 해버리고 그렇게 됐는데 지금 발, 다리까지도 완벽하게 구현이 되고 있기 때문에 두뇌와 몸이 함께 가니까 지금 화면에서도 자꾸 터미네이터가 나오고 있는 것 같은데 그러면 어떻게 되겠습니까. 그래서 속도조절론이 나온 것이다, 이렇게 볼 수 있는데 또 트럼프 쪽, 우리 입장에서. 특히 K반도체는 어쨌거나 메모리 반도체를 팔아야 되고 우리 메모리 반도체가 많이 팔리려면 빅테크니 소위 말하는 챗GPT니 앤트로픽이 계속 훈련을 해야 되잖아요. 칩을 써야 되기 때문에 약간 상반된 의견이 함께 존재하고 있습니다.

[앵커]
그러니까 이것을 정말 소수의 기업들이 기득권 지키기 하는 거다라고 보는 시각도 있고, 그리고 진짜 지금 시점에 지금이라도 브레이크를 밟아야 한다는 시각이 공존하고 있는 거잖아요. 개인적으로 보시기에 어느 쪽에 비중을 둬야 되는 거예요?

[정철진]
저는 반반이라고 봐요. 특히 저는 사다리 걷어차기 이론이 굉장히 맞다고 보고 있거든요. 왜냐하면 제가 토요일, 일요일 주말에 이걸 다 보고 있었는데 짜고 치는 뭐라고 하잖아요. 짜고 치는 작전처럼 아모데이 앤트로픽 CEO가 블로그에 글을 올리자마자 일론 머스크도 동의하고 울트먼도 동의를 하고 구글 창업자도 동의를 하고 그 외에 민주당 쪽에 해리스, 오바마도 이야기하는 모습들이 너무 일사천리로 흘러가고 있거든요. 제가 이걸 왜 사다리 걷어차기라고 얘기하냐면 챗GPT라든가 오픈AI라든가 앤트로픽은 어느 정도의 수준이 일단 온 것 같아요. 그들의 골방 속에서는 자기네들은 더 이것을 개선할 수 있을 것 같아요. 그런데 문제는 여기서 갑자기 우리가 속도조절을 하고 AI 규제를 만들어내요. 그러면 뒤따라오는 기업들은 어떻게 됩니까? 규제에 번번이 걸리죠. 지금도 뛰어넘기 힘들 것 같은 엄청난 격차가 있는데 규제를 통해서 밑을 막아버리면 이건 사다리를 걷어차버리는 행위, 위에 이미 선을 넘었던 사람들만 더 발전하겠다는 취지의 목소리가 더 강하지 않냐는 거고요. 반면에 이제 사고를 칠 것 같거든요. AI가 이 정도까지 가서 우리가 이제는 목표도 제시를 안 해 주면 멋대로 행동할 수 있는 부분들이 있기 때문에. 얼마전에 마이크로소프트 행동강령도 나왔다고 하는데 이 부분에 대해서도 분명히 공감을 해야 되고, 그래서 제가 반반이라고 이야기한 겁니다.

[앵커]
AI의 발전 속도가 우리의 상당을 뛰어넘어서 진행되고 있기 때문에 인류 멸망까지 갈 수 있지 않나 이런 걱정도 나오고 있는 상황인데 앞으로 추후 경과를 보겠습니다.

정철진 경제평론가였습니다. 고맙습니다.

대담 발췌 : 정의진 디지털뉴스팀 에디터