유엔 사무총장 "살인 로봇 금지해야...용인 불가"

안토니우 구테흐스 유엔 사무총장은 치명적 자율 무기를 '살인 로봇'으로 부르고 규제 필요성을 강조했습니다.

구테흐스 사무총장은 현지 시간 6일 스위스 제네바에서 열린 인공지능, AI 거버넌스 관련 행사에서 연설하고, 치명적 자율 무기는 "도덕적으로 혐오스러운 것"이라며 규제 마련을 촉구했습니다.

구테흐스 총장은 "기계가 인간의 통제나 판단 없이 표적을 선정하고 공격해 생명을 앗아가는 건 윤리적으로 용납할 수 없다"며, 치명적 자율 무기를 국제법으로 금지해야 한다고 밝혔습니다.

이어, "잔혹한 일이 벌어질 때까지 기다려선 안 된다"며, "어떤 결정들은 영원히 인간이 해야 하고 그중에서도 타인의 생명을 앗아가는 결정만큼 중요한 일은 없다"고 말했습니다.

이 발언은 올 초 미국 국방부와 앤트로픽 간 갈등의 핵심이었던 AI 안전성 논란을 수면으로 다시 끌어올렸다고 미국 일간 월스트리트저널은 짚었습니다.

미국 국방부와 앤트로픽 간 갈등은 미군이 올 초 니콜라스 마두로 전 베네수엘라 대통령 체포 작전 과정에서 앤트로픽의 클로드를 사용한 것으로 알려지면서 불거졌습니다.

앤트로픽은 자사 AI 모델을 대규모 감시나 자율 살상 무기 등에 사용해선 안 된다는 입장을 피력했지만, 국방부는 합법적인 모든 활동에 사용할 수 있어야 한다며 대립했습니다.

월스트리트저널에 따르면, 민간용으로 설계된 AI 시스템과 칩이 전장과 군 지휘부에 점차 더 많이 배치되면서 군대가 언제 AI를 사용하고, 언제 인간이 개입해야 하는지에 관한 논쟁이 끊임없이 불거지고 있습니다.

AI 무기 사용을 지지하는 측과 방위산업 관계자들은 자율 무기가 여전히 인간의 통제 아래 있고, AI 덕분에 인간이 고도의 작전을 빠르고 정확하게 수행할 수 있게 될 것이라고 옹호합니다.

반면, AI도 실수를 저지르기 때문에 긴박한 상황에서 인간이 기계에 통제권을 넘기는 건 위험하다는 반론도 있습니다.

일각에서는 AI 시스템이 인간의 통제를 벗어나 인간을 공격할 수 있고, AI에 무기를 장착하는 건 그런 위험을 가속할 뿐이라는 주장도 나옵니다.

월스트리트저널은 AI 시스템을 어떻게 규제해야 하는지에 관한 논쟁이 여전히 격렬하다면서, 미국 정부가 AI 모델 출시 전 안전성을 검증할 수 있는 절차를 마련 중이라고 전했습니다.

YTN 김종욱 (jwkim@ytn.co.kr)