인간 개입 없이 AI가 '자율 살상'…엔비디아 칩 사용했다 [지금이뉴스]

러시아가 우크라이나에서 인간의 개입 없이 표적을 선택해 타격하는 인공지능(AI) 자율 살상 드론을 투입한 것으로 나타났습니다.

지난달 우크라이나 남동부 자포리자 소재 주유소의 프로판 탱크 시설을 타격한 드론을 분해한 결과 해당 드론이 전적으로 AI에 의해 조종된 사실을 확인했다고 미국 일간 뉴욕타임스(NYT)가 우크라이나 군과 드론·포렌식(디지털 증거 추출) 전문가 등을 인용해 24일(현지시간) 보도했습니다.

우크라이나가 입수한 해당 드론에는 외부와 통신할 수 있는 안테나가 부착되지 않은 대신 목표물을 스스로 결정할 수 있도록 하는 엔비디아의 초소형 컴퓨터 `젯슨 오린`이 탑재돼 있었습니다.

암호화되지 않은 해당 칩을 분석한 결과 이 드론에는 목표물을 직접 추적하고 이동 경로를 유지할 수 있도록 하는 지형 이미지가 저장돼 있었고, 드론이 프로판 탱크 등 특정 유형의 표적을 식별하고 공격하도록 훈련된 사실도 확인했다고 우크라이나 당국은 전했습니다.

우크라이나는 이 드론이 사전 설정된 대략적인 위치까지 이동한 다음 AI로 표적을 식별해 충돌한 것으로 보고 있습니다.

당시 프로판 탱크 폭발로 대학생 등 민간인 2명이 사망했습니다.

군사작전에 사용되는 드론에는 지금도 통상 AI 시스템이 탑재되지만, 현재까지는 인간이 공격 대상을 결정해 입력한 이후 실제 공격을 수행할 때만 AI가 돕는 방식이 사용돼왔습니다.

이와 대조적으로 자율 살상 드론은 인간의 개입 없이 AI가 자율적으로 표적을 선정한다는 차이가 있습니다.

이 때문에 AI가 실제 전장에서 누구를 공격 목표로 삼을지 예측이 불가능하며 이번 사례처럼 민간인이 희생될 가능성도 있습니다.

이 때문에 국제적십자사와 인권 단체들은 인간이 개입하지 않는 AI 무기 사용에 강력히 반대하고 있습니다.

싱크탱크 전략국제문제연구소(CSIS) 와드와니 AI센터의 카테리나 본다르 수석 연구원은 이번 사례에 대해 "러시아가 자율형 AI를 실험하고 있다는 가장 확실한 증거"라며 러시아 드론에 탑재된 AI 시스템 때문에 민간인 사망자가 발생했다는 사실이 확인된 최초 사례라고 지적했습니다.

자포리자 방공 사령관인 세르히 미나예우 대령도 이 같은 AI 드론의 출현에 대해 "이는 전 세계에 대한 위험"이라며 "몇 년 안에 `터미네이터` 속에 사는 것 같은 상황에 처하게 될 것이다. 농담이 아니라, 기계들이 (현재) 공격 여부를 결정하고 있다"고 우려했습니다.


오디오ㅣAI앵커
제작ㅣ이 선

#지금이뉴스