샘 올트먼 "통제 증명 못한 AI 훈련 말아야"

오픈AI 최고경영자(CEO)인 샘 올트먼이 인공지능, AI의 급속한 발전에 따른 위험을 경고하며 인간의 통제 가능성을 입증하지 못한 AI 모델은 훈련해서는 안된다고 강조했습니다.

올트만은 현지시간 23일 뉴욕 유엔본부에서 AI와 국제안보를 주제로 열린 안보리 회의에서 이같이 말했습니다.

올트만은 AI 발전 과정에서 피해야 할 위험으로 AI 발전이 너무 빨라 사람들이 따라갈 수 없는 상황을 꼽고 기업 간 경쟁에서 이기기 위해 성급한 결정을 내릴 이유가 없다고 말했습니다.

또 시스템이 매우 똑똑해지더라도 사람들이 의도한 대로 작동할 수 있다는 강력한 증거가 필요하며 재앙의 위험이 0.1%라 해도 전혀 용납할 수 없다고 강조했습니다.

올트만 CEO는 이와 함께 또 다른 위험으로 권력의 편중을 지적하며 어떤 개인이나 기업, 국가도 가장 강력한 AI 모델을 사용해 자신의 세계관을 다른 모든 사람에게 강요해서는 안 되고 AI가 사람들의 삶에 더 많은 권한과 자유를 줘야 한다고 설명했습니다.

YTN 류제웅 (jwryoo@ytn.co.kr)