정부 계약 퇴출 위기에도...미 국방부 요구에 반기 든 'AI 전사' [지금이뉴스]

인공지능(AI) '클로드' 개발사 앤트로픽이 AI의 군사적 활용 범위를 전면 개방하라는 미 국방부의 최후통첩을 거부했습니다.

미국 매체 악시오스, 로이터통신 등에 따르면 앤트로픽 다리오 아모데이 최고경영자(CEO)는 현지시간 26일 개인 블로그에 발표한 성명에서 국방부의 기술 무제한 사용 요구에 대해 "양심상 도저히 수용할 수 없다"고 밝혔습니다.

아모데이는 "미국과 다른 민주주의 국가들을 방어하고 독재적인 적대 세력에 맞서기 위해 AI를 활용하는 것은 실존적인 차원에서 매우 중요한 일이지만, 극히 일부 사례에서는 AI가 민주적 가치를 수호하기보다 오히려 훼손할 수 있다"고 지적했습니다.

이어 AI를 통한 대규모 감시활동이나 인간 통제를 벗어난 완전 자율무기를 언급하며 "일부 AI 사용 사례는 현재 기술 수준에서 안전하고 신뢰할 수 있는 수행 범위를 벗어난다"고 주장했습니다.

그러면서 "미 국방부의 위협은 본질적으로 모순적이다. 한편에서는 우리를 안보 위험으로 규정하고, 다른 한편에서는 클로드를 국가 안보에 필수적인 존재로 규정한다"며 "이러한 위협은 우리의 입장을 바꾸지 않는다"고 강조했습니다.

클로드는 현재 미군 기밀 시스템에서 사실상 유일하게 활용할 수 있는 AI로, 미 국방부는 앞으로 클로드를 '합법적인 모든 용도'에 제한 없이 사용하겠다는 입장입니다.

반면 앤트로픽은 자국민을 대상으로 한 대규모 감시나 완전 자율무기에는 자사 모델을 사용해선 안 된다고 맞서고 있습니다.

앤트로픽사는 이날 성명에서 "국방부가 제시한 계약서 수정안은 클로드가 미국인 대상 대규모 감시나 완전 자율무기에 사용되는 것을 막는 데에 사실상 아무런 진전도 없었고, 타협안으로 제시된 새로운 문구들 역시 관련 안전장치를 임의로 무력화할 수 있는 법률 용어를 포함하고 있었다"고 밝혔습니다.

이와 관련해 숀 파넬 국방부 대변인은 소셜미디어에서 "미국인을 대상으로 한 대규모 '불법' 감시 활동에 AI를 활용할 의사가 없으며, 인간의 개입 없이 작동하는 자율 무기 개발에 AI를 활용할 계획도 전혀 없다"고 반박했습니다.

다만, 파넬 대변인은 국방부가 클로드를 사용하고자 하는 '합법적' 목적이 무엇인지에 대해서는 구체적으로 밝히지 않았습니다.

국방부는 앤트로픽에 27일 오후 5시 1분까지 시한을 제시하고 협상이 최종 결렬될 경우 공급망 위험 기업 지정 등 조치를 발동할 수 있다고 밝힌 상태입니다.

앤트로픽이 공급망 위험 업체로 지정되면 미 국방부와 거래하는 모든 계약·공급업체는 미군과의 협업 업무에서 클로드를 사용할 수 없습니다.

국방부는 이미 보잉·록히드마틴 등 방산 기업에 앤트로픽과의 거래 위험도를 평가해달라고 요청하며 앤트로픽을 사실상 블랙리스트에 올리기 위한 작업에 착수했습니다.

피트 헤그세스 국방부 장관은 지난 24일 회의에서 앤트로픽이 국방부의 요구를 수용하지 않을 경우 국방물자생산법(DPA)을 발동해 앤트로픽이 아무런 제한 없이 해당 모델을 제공하도록 강제하겠다고 언급한 것으로 알려졌습니다.

다만, 이러한 강제조치는 법적 근거를 갖추지 못할 것으로 보인다고 악시오스는 전했습니다.


기자ㅣ권영희
오디오ㅣAI앵커
제작ㅣ이 선
출처ㅣX@AnthropicAI

#지금이뉴스