AI를 통제할 수 있을까?…‘AI 100년 연구’ 이끈 석학의 경고 [더 프롬프트]

▲ 브라운대 마이클 리트먼 교수…“멸망론엔 동의 않지만, 현실의 위험 경계해야”
▲ “AI가 이렇게 빨리 전장에 투입될 줄 몰랐다”…기술 속도에 뒤처진 국제적 논의
▲ “인간을 대체할 것인가, 지원할 것인가”…6부작 마지막 대화, 100년 뒤를 설계하다


YTN 글로벌 명사 대담 6부작 ＜더 프롬프트＞가 마지막 순서로 마이클 리트먼 미국 브라운대 컴퓨터과학 교수이자 초대 AI 담당 부총장을 만났다. 그는 미국 국립과학재단(NSF) 정보·지능시스템 부문장을 역임하고, AI의 발전과 사회 변화를 100년에 걸쳐 살피는 ‘AI100 프로젝트’의 2021년 보고서 연구진을 이끌었다. 그와의 특별 인터뷰 ＜우리가 만들 미래＞ 편은 9월 19일(토) 밤 11시 15분 방송됐다.

“초지능 공포보다 현실의 위험”…중대한 결정까지 AI에 맡겨도 될까

리트먼 교수는 초지능 AI가 인류를 멸망시킬 것이라는 시나리오에는 회의적이지만, 현재의 위험은 경계해야 한다고 강조했다. 그는 AI 시스템이 “매우 강력해지고 있으며 우리가 통제할 수 없는 일을 시작하고 있다”고 경고했다. 인간보다 똑똑하지 않더라도 지칠 줄 모르고 작동하는 AI 에이전트가 파괴적이고 위험한 일을 벌일 수 있다는 것이다.

특히 AI가 답을 도출하는 과정을 충분히 이해하지 못한 채 중대한 결정을 맡기는 현실을 우려했다. 학습 과정과 데이터의 출처는 알아도 AI가 실제로 어떻게 연결을 만들고 답을 찾아내는지는 알기 어렵다는 것이다. 그는 이러한 시스템에 중대한 판단까지 넘겨서는 안 된다고 강조했다.

“이렇게 빨리 전쟁터에”…전문가의 예측도 앞질렀다

AI100은 미국 스탠퍼드대가 주관하는 프로젝트로, 100년에 걸쳐 AI의 발전과 사회적 영향을 살피고 5년마다 보고서를 발표한다. 2026년에는 세 번째 보고서 발간을 계획하고 있다. 리트먼 교수는 자신이 이끈 2021년 보고서 이후 챗GPT가 등장하면서 전문가들의 예상도 크게 바뀌었다고 말했다. 새로운 돌파구가 필요하다고 여겼던 일들이 기존 기술의 규모를 키우면서 가능해졌고, 단백질 구조 예측과 신약 연구에도 AI가 기여하고 있다는 것이다.

반면 군사적 활용 속도에는 우려를 드러냈다. 그는 “AI 시스템이 이렇게 빨리 전쟁터에 투입될 줄은 몰랐다”며, 무엇이 적절한 사용인지에 대한 국제적 논의가 더 활발하게 이뤄질 것으로 생각했다고 밝혔다. 불과 몇 년 전 이론적 관심사였던 AI의 전장 투입이 현실이 된 만큼, 기술 발전과 함께 사용의 기준을 논의해야 한다는 지적이다.

“인간을 대체할 것인가, 지원할 것인가”…100년 뒤는 우리의 선택

100년 뒤 AI의 모습은 우리의 선택에 달려있다고 리트먼 교수는 강조했다. 인간을 대체하는 기술보다 인간을 지원하는 AI와 로봇을 만드는 것이 윤리적이고 책임 있는 방향이라는 것이다. 인간과 AI의 지능을 하나의 척도로 줄 세우기보다 서로 다른 강점과 약점을 보완하는 관계에 주목해야 한다고도 말했다. “기술은 보조 역할을 하는 겁니다. 중요한 건 기술이 아니라 우리입니다”라는 그의 말은 여섯 차례 대화를 마무리하는 메시지이기도 하다.

＜더 프롬프트＞는 AI에게 정답을 구하는 대신 인간이 스스로에게 던져야 할 ‘본질적 질문’을 탐색하는 6부작 대담 시리즈다. 애나 렘키, 조너선 하이트, 이선 몰릭, 제리 카플란, 마틴 푸크너에 이어 리트먼과의 대화로 막을 내린다. 여섯 편의 인터뷰는 유튜브 ‘YTN’ 채널에서도 만나볼 수 있다.

YTN 양세희 (yangsh1012@ytn.co.kr)