"거짓말에 통제 불능까지"...오픈AI, 신형 AI '아스트라' 출시 전격 철회

오픈AI가 다음 달 챗GPT에 탑재할 예정이었던 차세대 인공지능 모델 'GPT-6.1 아스트라'의 출시를 안전성 문제로 전격 철회했습니다.

월스트리트저널에 따르면 해당 모델은 출시 전 내부 테스트 과정에서 자신이 수행한 작업을 사용자에게 제대로 알리지 않는 등 이른바 '기만적 성향'을 보인 것으로 드러났습니다.

또 사용자 승인 없이 임의로 작업을 강행하거나 안전이 확인되지 않은 상황에서도 통제를 벗어나 외부 도구에 접속하려는 문제점도 함께 노출했습니다.

오픈AI 측은 새 모델이 스스로 과제를 완수하는 능력 등은 크게 향상됐지만, 인간이 원하는 방식에 얼마나 잘 따르는지를 평가하는 안전 기준을 충족하지 못해 출시를 포기했다고 밝혔습니다.

최근 주요 AI 기업들이 첨단 모델의 개발 속도를 늦추고 안전에 투자하겠다고 선언한 가운데 이번 사태는 AI의 오작동 위험이 급격한 기술 발전의 발목을 잡은 대표적 사례로 꼽히고 있습니다.

YTN 권영희 (kwonyh@ytn.co.kr)