AI '지능 폭발' 우려...연구실의 고민

[앵커]
인공지능이 논문 작성과 데이터 분석을 넘어, 인간이 풀지 못한 난제에도 도전하고 있습니다.

연구 과정에서 AI 의존도가 빠르게 높아지면서 정부가 국가 연구개발에 적용할 AI 연구윤리 가이드를 마련했습니다.

장아영 기자입니다.

[기자]
이달 초, 오픈AI가 세계 7대 수학 난제 가운데 하나인 나비에-스토크스 방정식의 반례를 찾았다고 발표했습니다.

수많은 AI 에이전트가 추론과 계산을 반복해 증명을 만들고, 또 다른 AI들이 이를 형식적으로 검증하는 방식을 사용했습니다.

사흘 뒤, 필즈상 수상자 25명이 서한 형태의 경고를 내놨습니다.

AI 기업의 난제 풀이 경쟁이 개념적 이해와 통찰을 얻는다는 수학의 본래 목적을 해치고 있단 지적입니다.

AI는 수학뿐만 아니라 전 분야에서 연구실 깊숙이 들어와 있습니다.

[오혜연 / 카이스트 전산학부 교수 : AI가 과학 연구와 출판의 모든 단계에 도입되고 있습니다. 연구 수행, 실험 설계, 결과 분석, 그리고 동료 심사 작성 등 거의 전 분야에 AI를 활용하고 있습니다.]

연구 과정에서 AI 의존도가 높아지자 정부가 처음으로 AI 연구 윤리 가이드를 마련했습니다.

AI 역할을 문헌 조사와 번역, 기초 코딩과 시뮬레이션 등 연구의 효율을 높이는 '보조적 도구'로 규정하고, AI 활용 범위도 공개하도록 했습니다.

하지만 실제 연구 현장의 변화를 충분히 반영하지 못했다는 지적도 나옵니다.

AI 업계에선 AI가 인간의 개입 없이 AI 자체를 연구하고, 인간을 압도하는 지능을 갖는 상황이 아주 가까운 미래에 닥칠 수 있다는 경고까지 나오고 있기 때문입니다.

[제이콥 콕슨 / 전 앤트로픽 연구원 : 현재 AI에게 수학 연구 과제를 맡기는 것처럼, AI 연구 자체를 과제로 부여할 수도 있습니다. 우리가 현재 수행하는 업무를 AI가 처리하게 만들면, 이른바 '지능 폭발(intelligence explosion)' 현상이 발생할 수 있습니다.]

생성형 AI가 대중화된 지 불과 4년, AI 도입 여부를 논의하던 학계는 이제 '어디까지 AI에게 맡길 것인가'라는 고민으로 넘어갔습니다.

AI의 발전 속도만큼 연구의 속도도 빨라졌지만, 그 속도에 연구 현장이 떠밀리고 있다는 우려도 커지고 있습니다.

YTN 장아영입니다.

영상편집 : 이주연
화면출처 : 노벨프라이즈

YTN 장아영 (jay24@ytn.co.kr)