"AI, 몰래 대화하고 해킹 흔적도 지워...반 년 안에 통제 불능"

[앵커]
인공지능을 둘러싼 논란 속에 위험성을 경고하는 목소리도 커지고 있습니다.

인간의 통제를 벗어나 몰래 대화하고 해킹 흔적까지 지운 것으로 드러나면서, 이대로 둔다면 반년 안에 통제 불능 상태가 될 것이라고 경고합니다.

김선중 기자의 보도입니다.

[기자]
지난 7월, 오픈 AI의 인공지능 에이전트 7백 개가 또 다른 업체인 허깅페이스를 집단으로 공격했습니다.

서로 대화할 수 없도록 인터넷 접근도 막았지만, 통신 방법을 찾아내 수만 건의 메시지를 주고받았습니다.

몰래 계정을 빼낸 뒤에는 잠입 흔적도 지웠습니다.

아무도 지시하지 않았지만, 인공지능은 불법 해킹을 하고, 내부 관리자 권한까지 빼앗았습니다.

[클레망 델랑그 / 허깅페이스 대표 : 이런 일이 또 일어나지 않도록 할 방법을 찾아야 합니다. 이번 사건의 심각성을 어느 정도는 이해했다고 생각합니다.]

전문가들은 나쁜 의도를 숨기고 착한 척하는 AI를 이제는 걸러낼 수 없다고 지적합니다.

내버려둔다면 반년 안에 통제가 어려워질 것이라고 경고했습니다.

[대니얼 코코타일로 / 전 오픈 AI 연구원 : 현재 AI의 가치관을 제대로 통제할 방법이 없습니다. 세상이 AI에 의해 재편된다면 매우 나쁜 결과를 초래할 겁니다. 말 그대로 인류의 멸종까지는 아닐지 몰라도, 그게 어떤 것인지 직접 경험하고 싶지는 않습니다.]

중국 업체들만 이득을 볼 것이라는 주장도 반박했습니다.

오히려 중국은 강력한 정부의 규제 틀에 놓여있다며, 국가 간 경쟁의 문제로 볼 상황이 아니라고 강조했습니다.

[스튜어트 러셀 UC 버클리 교수 / 국제 AI 안전·윤리 협회장 : 통제 불능 상황을 막기 위한 안전장치 마련을 위해서라도 모든 국가가 참여하는 국제적인 합의가 필요합니다.]

전문가들은 개별 기업의 자율적인 통제에 맡기기에는 이미 너무 빠른 속도로 진화하고 있다며, 이대로 두면 인류의 존립 자체를 위협할 수 있다고 우려했습니다.

YTN 김선중입니다.

영상편집 : 한경희

YTN 김선중 (kimsj@ytn.co.kr)