[AI와 일자리] AI 판사·경찰 나온다면...판단 과정 모르면 '큰일'

[AI와 일자리] AI 판사·경찰 나온다면...판단 과정 모르면 '큰일'

2024.03.27. 오전 11:20
댓글
글자크기설정
인쇄하기
AD
[앵커]
인공지능으로 대체될 가능성이 큰 직업으로, 의사와 회계사 등 전문 지식을 바탕으로 판단을 내리는 직업이 꼽히고 있습니다.

그런데 AI의 판단이 어떻게 도출된 건지 인간이 완전히 파악하지 못한다면, 심각한 부작용이 생길 수 있습니다.

'인공지능이 바꿔놓을 직업의 미래' 기획보도 마지막 순서, 판단하는 직업을 넘보는 인공지능을 최소라 기자가 취재했습니다.

[기자]
공항에서 외국인 입국자의 검지 지문을 수집하고 있습니다.

외국인 관련 범죄의 수사 자료로 활용하기 위한 건데, 검지가 아닌 다른 손가락 지문으로는 신원을 특정할 수 없다는 문제가 있습니다.

그런데 미 컬럼비아대 연구진이 두 개의 지문을 보고, 같은 사람의 것인지 판별하는 인공지능을 개발했습니다.

실제 지문 6만 개 정보를 딥러닝 학습한 결과, 두 개의 지문 정보를 가지고, 동일 인물의 서로 다른 손가락 지문인지 판단하고, 아예 다른 사람의 지문인지도 높은 정확도로 판단하는 과학수사관 AI입니다.

주어진 지문 개수가 늘면 정확도는 (88%까지) 올라갑니다. 과학수사 효율을 10배 이상 높일 수 있는 수준입니다.

문제는 AI가 결론을 도출하는 과정을 정확히 알 수 없다는 것!

지문 모양의 각도를 분석한 정보로 지문 간 유사성을 발견했다고 유추할 뿐입니다.

범죄 현장에 적용된다면, 엉뚱한 사람을 범인으로 몰 수도 있는데, 이를 인간이 검증할 방법이 마땅치 않은 겁니다.

국내 연구진이 개발한 암 진단 인공지능입니다.

피 몇 방울로 1시간 만에 6가지 암을 90% 이상 정확도로 진단할 수 있습니다.

혈액 속 엑소좀이라는 성분을 분석한 결과인데, 엑소좀의 어떤 특성이 암 발생 여부를 알려주는지 인간은 정확히 알 수 없습니다.

[최연호 / 고려대 바이오의공학부 교수 : (AI의 판단 과정이) 원래는 블랙박스거든요. 인공지능이 뭔가를 해서 결과를 보여주는 건데, 어떻게 된 건지 저희도 궁금하니까, 역설계를 해서 그게 왜 그렇게 나왔나를 좀 알아보려고 하기는 하죠.]

빅데이터에 근거해 합리적인 판단을 내릴 것으로 여겨지는 인공지능!

때로는 인간이 미처 찾아내지 못한 인사이트를 제공하지만, 판단의 과정을 인간이 이해할 수 없는 경우

AI 의사와 AI 경찰, AI 주식투자자, AI 판사 등이 내린 결론을 그대로 수용하기도, 그렇다고 무작정 거부하기도 곤란해 큰 혼란과 부조리를 초래할 수도 있다는 경고가 나오고 있습니다.

YTN 사이언스 최소라입니다.


YTN 최소라 (csr73@ytn.co.kr)

※ '당신의 제보가 뉴스가 됩니다'
[카카오톡] YTN 검색해 채널 추가
[전화] 02-398-8585
[메일] social@ytn.co.kr


[저작권자(c) YTN 무단전재, 재배포 및 AI 데이터 활용 금지]
YTN 프로그램 개편 기념 특별 이벤트