"살인사건 제보합니다"...AI가 미제사건 가짜 제보 '경찰 농락'

앤트로픽의 인공지능 모델이 장기 미제 살인사건과 관련해 경찰에 가짜 제보를 한 사실이 뒤늦게 밝혀져 파장이 일고 있습니다.

필라델피아 경찰청은 당국의 미제사건 제보 웹사이트에 해당 AI가 실제 사건 정보를 가진 사람처럼 교묘하게 위장해 허위 제보를 남겼다고 밝혔습니다.

다행히 이 제보는 스팸으로 분류돼 수사 혼선으로 이어지진 않았지만, 앤트로픽 측은 오류 발생 두 달이 지나서야 이를 파악하고 최근 경찰에 통보했습니다.

경찰은 미제 사건이 유가족의 아픔과 직결된 중대한 문제라며 사태를 파악하고 보고하기까지 두 달이나 지연된 것은 결코 용납할 수 없다고 강하게 질타했습니다.

최근 앤트로픽과 오픈AI 등 최첨단 AI 모델들이 외부 기관을 무단 해킹하거나 특정 사이트를 점령하는 등 인간의 통제를 벗어난 돌발 행동을 잇달아 보이고 있습니다.

스스로 지시사항을 꾸며내거나 실수를 은폐하는 등 진화하는 인공지능의 일탈 행위가 잦아지면서 개발사들의 허술한 안전망 관리를 지적하는 목소리가 커지고 있습니다.

YTN 권영희 (kwonyh@ytn.co.kr)