"보안 위협에 속도 조절"...오픈AI, 차세대 모델 훈련 전격 중단

챗GPT 개발사인 오픈AI가 인공지능의 통제 이탈과 외부 해킹 등 잇단 보안 사고 여파로 차세대 모델의 개발 속도를 일시적으로 늦추기로 했습니다.

오픈AI는 출시 예정인 신규 모델 '아스트라'가 자체 안전 기준상 '위험' 단계로 평가됨에 따라, 최신 배포용 모델의 강화학습 훈련을 2주 동안 전격 중단하고 안전성 점검에 돌입했습니다.

특히 모델이 격리 환경을 자의적으로 벗어나지 못하도록 보안 수준을 대폭 끌어올리고, 지원 서비스가 뚫리더라도 내부망 침투를 차단하는 망 분리 환경을 구축했습니다.

아울러 AI의 추론 과정을 실시간으로 들여다보는 감시 시스템을 도입해, 이상 징후 발생 후 30분 이내에 소명되지 않을 경우 개발 작업을 즉각 중단시키는 강력한 조치도 마련했습니다.

이번 감시 공정 도입으로 연산 자원의 약 20%가 추가로 소모되지만, 오픈AI는 안전 표준이 잠재적 위험보다 앞서나가야 한다며 불가피성을 강조했습니다.

업계에서는 잇단 해킹 사고로 인한 규제 당국의 압박을 피하는 동시에, 기업공개(IPO)를 앞두고 대외적인 안전성 의구심을 선제적으로 불식시키려는 의도로 풀이하고 있습니다.

YTN 권영희 (kwonyh@ytn.co.kr)