"구글 ’AI 오버뷰’, 잘못된 건강 조언으로 위험 초래 가능성"

구글의 인공지능(AI) 요약 기능이 잘못된 건강 정보를 제공해 사람들에게 위험을 초래할 가능성이 있다고 영국 일간 가디언이 현지시간 2일 보도했습니다.

구글은 생성형 AI를 활용해 특정 주제나 질문에 대한 핵심 정보를 간단히 제시하는 ’AI 오버뷰’ 기능이 유용하고 신뢰할 수 있다고 밝혀왔습니다.

그러나 가디언 조사 결과 검색 결과 최상단에 표시되는 AI 오버뷰가 부정확한 건강 정보를 제공해 사람들의 건강을 위협하는 것으로 나타났습니다.

예를 들어 구글은 췌장암 환자에게 고지방 음식을 피하라고 조언했는데, 이는 권고 사항의 정반대 내용으로, 오히려 사망 위험을 높일 수 있다고 전문가들은 지적했습니다.

췌장암 자선단체 ’췌장암 영국’의 연구·지원 담당자 안나 주얼은 "이 검색 결과를 그대로 따르면 충분한 열량을 섭취하고 체중을 늘리기 어려워지며, 항암치료나 생명을 살리는 수술을 견디지 못할 수 있다"고 설명했습니다.

또 간 혈액 검사의 정상 범위를 검색하면 간 질환자들이 자신이 건강하다고 오해할 수 있는 정보가 제공됐습니다.

수많은 수치 나열에 근거 설명은 거의 없었고, 환자의 국적·성별·인종·나이 등에 따른 차이도 고려되지 않았습니다.

간 질환 자선단체 ’영국 간 신탁’의 파멜라 힐리 대표는 "심각한 간 질환이 있는 사람들이 본인 검사 결과를 정상으로 생각하고 후속 진료를 받지 않을 수 있어 위험하다"고 경고했습니다.

가디언은 여러 보건단체와 의료 전문가들이 부정확한 건강 정보에 관한 우려를 제기한 이후 구글 AI 오버뷰를 조사해 이런 사례를 다수 확인했습니다.

건강 정보를 제공하는 ’환자정보포럼’의 소피 랜들 이사는 "이번 사례는 구글 ’AI 오버뷰’가 정확하지 않은 건강 정보를 온라인 검색 최상단에 올려 사람들의 건강에 위험을 초래할 수 있음을 보여준다"고 말했습니다.

구글 측은 AI 오버뷰가 제공하는 정보 대다수는 사실에 기반을 둬 유용하며, 지속해서 품질을 개선하고 있다고 밝혔습니다.

잘못된 건강 정보 검색 결과와 관련해 구글 대변인은 제시된 사례 상당수가 "불완전한 스크린샷"이라고 주장했습니다.

아울러 회사 측이 확인한 범위에서는 "잘 알려지고 신뢰할만한 출처로 연결돼 있고, 전문가 조언을 구하도록 권고하고 있다"고 말했습니다.