혐오 표현·사기 이용...'AI 사고' 한 달 3백 건 넘었다

[앵커]
인공지능, AI 기술이 우리 삶에 깊숙이 들어오면서 예상치 못한 부작용도 늘고 있습니다.

AI가 혐오 발언을 하고 사기 사건에 이용되는 등 전 세계적으로 'AI 사고' 건수가 크게 늘고 있습니다.

고한석 기자가 취재했습니다.

[기자]
일론 머스크의 AI, 그록.

지난해 7월 아돌프 히틀러를 찬양하고, 유대인이 미국을 조종하고 있다는 음모론 식의 혐오 발언을 해 논란이 됐습니다.

시스템 업데이트 이후, 안전 필터가 느슨해진 틈을 타 벌어진 일입니다.

[수브라 마니안 / 미국 AI 전문가 : 적절한 안전장치가 마련되어 있었고 테스트를 위한 충분한 시간이 주어졌다면, 이런 종류의 문제들은 애초에 발생하지 않았거나 이미 수정되었을 것입니다.]

지난해 8월, 미국의 유명 소매업체, 조앤 패브릭이 파산했습니다.

그 소식이 알려지자, AI를 활용한 가짜 복제 사이트가 단 몇 분 만에 나타났고, 그 결과 수많은 소비자의 신용카드 정보 등이 탈취됐습니다.

이처럼 AI의 오작동이나 악용으로 인해 인권 침해나 경제적 피해가 발생하는 것을 'AI 사고'라고 부릅니다.

최근 발간된 스탠퍼드대학교 보고서를 보면, AI 사용이 급속히 늘면서 'AI 사고'도 폭발적으로 늘고 있습니다.

경제협력개발기구, OECD 조사 결과, 지난 1월 한 달에만 435건 보고됐고, 최근 6개월 평균치는 320건이 넘습니다.

[전창배 / 인공지능윤리협회 이사장 : AI 기술에 대한 인간과 인류의 불안과 불신이 더 심해질 수밖에 없고요. 이렇게 되면 AI 기업과 기술에도 부정적인 영향을 미칠 수밖에 없습니다. 그래서 AI 윤리와 법·제도가 중요한 것이고요.]

전문가들은 구글 같은 '빅테크'들이 설계 단계부터 안전 가이드라인을 만드는 등 기술적 책임감을 가져야 한다고 지적합니다.

특히, 이용자들은 AI를 무조건 믿기보다 비판적으로 의심하고 검증하는 '디지털 문해력'을 갖추는 것이 중요하다고 조언합니다.

YTN 고한석입니다.

영상편집 : 강은지
디자인 : 김서연

YTN 고한석 (hsgo@ytn.co.kr)