오픈AI "중국, 챗GPT 이용해 일본 총리 음해 공작...실제 효과는 제한적"

중국 사법당국 관련자가 인공지능(AI) 챗봇 챗GPT를 이용해 일본 총리를 음해하려는 공작을 시도한 사실이 드러났습니다.

오픈AI의 'AI 악성 이용 차단' 보고서에서 중국 법 집행기관 관계자는 지난해 10월 다카이치 사나에 일본 총리에 대한 조직적 음해 공작을 챗GPT를 활용해 계획하고 기록한 것으로 나타났습니다.

또 '사이버 특수 작전'으로 명명된 이 공작을 통해 다카이치 총리에 대해 부정적인 댓글을 게시하거나 외국인을 사칭해 비판적인 이메일을 정치인들에게 보내기도 했습니다.

이어 미국의 대일 관세에 대한 분노를 부추기는 등 부정적인 여론을 일으키려고 시도했습니다.

오픈AI는 챗GPT가 이와 같은 공작에 대해 조언해달라는 요청을 거부했다고 설명했습니다.

하지만 같은 이용자가 10월 말 유사한 내용을 담은 문건을 편집해달라고 요청한 사실로 미뤄볼 때 챗GPT의 도움 없이 해당 공작이 실행된 것으로 보인다고 덧붙였습니다.

실제로 엑스(X·옛 트위터)를 비롯한 SNS에는 문건에서 언급되는 '우익 공생자' 해시태그를 단 다카이치 총리 비판 글이나 유튜브 영상이 게시됐습니다.

다만 오픈AI는 이 같은 공작의 실제 영향력은 제한적이었던 것으로 분석했습니다.

관련 유튜브 동영상 조회수는 한 자릿수에 머물렀고, 다른 SNS 게시물도 대부분 반응이 없었습니다.

오픈AI 보고서는 중국 사법 당국이 이 공작 외에도 반체제 인사의 가짜 부고와 묘비 사진을 만들어 유포하거나, 인권 단체를 탄압하는 등 100가지가 넘는 전술을 벌여왔다고 전했습니다.

중국 당국은 챗GPT 외에 딥시크를 비롯한 자국 AI 모델도 체계적으로 활용한 것으로 보인다고 오픈AI는 부연했습니다.



YTN 이승윤 (risungyoon@ytn.co.kr)