'성차별 논란' AI 챗봇 '이루다' 서비스 잠정 중단

’이루다’ 실제 연인 대화 등 바탕으로 ’딥러닝’
’이루다’ 성차별·혐오 논란 끝에 서비스 중단
’이루다’ 개발사, 이용자 개인정보 유출 의혹

[앵커]
혐오 발언과 개인정보 유출 등의 논란에 휩싸인 인공지능 챗봇 '이루다'가 결국 서비스를 잠정 중단했습니다.

개발업체는 여러 논란에 대해 사과하며 개선을 위한 기간을 갖겠다고 밝혔습니다.

염혜원 기자입니다.

[기자]
지하철 임산부석이 혐오스럽다면서 노골적으로 부정적인 의사를 표현하고, 동성애자 혐오 발언에다가 성적 대화까지 주고 받았던 AI 챗봇 '이루다'.

컴퓨터가 사람처럼 생각하고 배우는 '딥러닝' 기술이 적용된 '이루다'는 실제 연인들의 대화를 기초로 스스로 학습했습니다.

이를 바탕으로 출시 3주 만에 이용자 40만 명을 넘기며 인기몰이를 했지만, 잇단 혐오 발언 등의 논란을 부른 끝에 개발업체는 결국 서비스를 잠정 중단했습니다.

개발업체인 스캐터랩은 특정 소수집단에 차별적 발언을 한 사례가 생긴 것에 대해 진심으로 사과드린다고 밝혔습니다.

다만, 또 다른 논란인 개인정보 유출에 대한 부분에는 선을 그었습니다.

'이루다' 개발을 위해 이 회사의 다른 서비스 이용자의 개인정보를 충분한 설명 없이 가져다 사용했다는 문제 제기에 업체 측은 이용자들과 충분히 소통하지 못한 점은 사과한다면서도, 개인을 특정할 수 있는 정보는 제거했다고 해명했습니다.

'이루다' 논란을 계기로 인공지능 개발 윤리에 대한 논의가 필요하다는 목소리도 힘을 얻고 있습니다.

인공지능 설계자의 주관과 이용자의 윤리 의식, 모두가 문제가 될 수 있는 만큼 정부도 지난해 말 교육 강화를 골자로 하는 인공지능 로드맵을 발표했습니다.

[강도현 / 과학기술정보통신부 인공지능기반정책관 (지난해 12월) : 인공지능 윤리 기준을 마련함에 따라 이후 후속적으로 윤리교육의 커리큘럼을 연구 개발하고 각계각층에 맞는 커리큘럼의 개발과 보급들을 진행할 계획으로 있습니다.]

스스로 학습하는 인공지능의 특성상 단순한 금기어 숫자 늘리기는 근본 처방이 될 수 없습니다.

양질의 데이터를 이용해 인간에게 이로운 지능을 개발해야 한다는 국제 AI 윤리 기준에 따라 인공지능을 어떻게 개발하고 사용할지, 구체적인 논의가 필요하다는 지적입니다.

YTN 염혜원입니다.