앤트로픽도 "딥시크 등 중국 기업, AI 모델 무단 추출 적발...첨단 칩 수출 금지해야"

오픈AI에 이어 앤트로픽도 중국 인공지능(AI) 기업들이 자사 AI 모델 결과물을 무단 추출해갔다고 주장했습니다.

앤트로픽은 딥시크와 문샷AI, 미니맥스 등 중국 기업 3사가 자사 AI 모델 '클로드'의 기능을 불법적으로 추출해간 사실을 확인했다고 밝혔습니다.

앤트로픽은 이 기업들이 가짜 계정 2만4천 개를 통해 클로드와 대화 1,600만 건 이상을 생성했다고 소개했습니다.

구체적으로 딥시크는 15만 건, 문샷AI는 340만 건, 미니맥스는 1,300만 건의 대화를 통해 결과물을 빼내 갔다고 설명했습니다.

앤트로픽은 중국 기업들의 이 같은 행위가 약관을 위반임은 물론, '증류' 기법을 활용한 기술 역량 추출에 해당한다고 설명했습니다.

증류 기법이란 다른 AI 모델이 내놓는 답변을 학습 재료로 삼아 유사한 능력을 갖춘 모델을 만드는 방식입니다.

이는 AI 기업들이 자사의 상위 모델에 버금가는 능력을 갖춘 경량 하위 모델을 만들 때 쓰는 방법이지만, 경쟁사 모델을 무단으로 활용하는 건 도용이나 탈취로 받아들여지고 있습니다.

앤트로픽은 또 기존 모델에는 생물학 무기 개발이나 악의적인 사이버 활동에 악용되는 걸 막는 안전장치가 있다고 강조했습니다.

하지만 불법 추출된 모델은 이런 안전장치가 제거될 수 있어 안보 위험도 발생할 수 있다고 우려했습니다.

앤트로픽은 국가 안보상 이유로 중국 내 클로드 접속을 금지했는데, 중국 기업들은 이조차 우회해 접속했다고 덧붙였습니다.

앤트로픽은 이와 같은 탐지 내용을 다른 AI 연구소 등과 공유하고 인증 절차를 강화하는 한편 새로운 안전장치를 개발 중이라고 밝혔습니다.

그러면서도 이 문제를 해결하려면 AI 업계와 클라우드 제공업체는 물론 정책 입안자까지 아우르는 대응이 필요하다고 강조했습니다.

이어 중국 기업들의 이 같은 미국 AI 모델 기술 탈취를 제한하려면 첨단 AI 칩의 중국 수출을 통제해야 한다는 논지를 내세웠습니다.

첨단 칩에 대한 접근이 어려워지면 직접적인 모델 훈련은 물론이고 이와 같은 불법적 증류 규모도 제한할 수 있다는 설명입니다.

앞서 다리오 아모데이 최고경영자(CEO)는 트럼프 미국 대통령의 엔비디아 AI 칩 중국 수출 허용 방침에 대해 "북한에 핵무기를 파는 것과 비슷한 일"이라고 비유했습니다.

이는 "국가 안보에 엄청난 함의를 가진 실수"라고 강하게 비판했습니다.

앞서 12일 오픈AI도 미 하원 중국 특별위원회에 제출한 메모를 통해 딥시크 등 중국 기업이 증류 기법을 활용해 미국 AI 모델의 결과물을 추출해가고 있다는 우려를 전했습니다.



YTN 이승윤 (risungyoon@ytn.co.kr)