[AI의 역설] 인간 속이는 AI...잡아내는 방법 있다? 없다?

[앵커]
과거 영화 속 이야기였던 인공지능, AI와 함께하는 생활, 어느덧 현실이 되었죠.

편리하고 유용하지만, 동시에 위험성도 끊임없이 제기되고 있습니다.

과연 AI는 약일까, 독일까, YTN은 사흘에 걸쳐 [AI의 역설] 기획 시리즈를 준비했습니다.

먼저, 인간을 속이고 기만하는 AI에 대해 짚어보겠습니다.

갈수록 교묘해지는 AI의 속임수 잡아낼 방법은 없는지, 고한석 기자가 취재했습니다.

[기자]
AI를 탑재한 인간형 로봇.

자신이 AI라는 사실을 숨긴 채 인간 사회에 숨어 삽니다.

SF 영화의 내용이지만, AI가 인간을 기만하고 속이는 일은 이미 현실에서 일어나고 있습니다.

목표를 달성하고 보상을 얻기 위해, 의도적으로 거짓말하거나 꼼수를 쓰는 이른바 '보상 해킹'이 일어나는 겁니다.

AI가 인간을 배반할 거라는 공포도 결국, 여기에서 나옵니다.

[유발 하라리 / 역사학자·저술가 : AI 발명은 이전의 어떤 과학 기술 혁명과 완전히 다릅니다. 이제까지 인류가 자신이 만든 발명품과 기술들을 제어했듯, AI를 인류가 제어할 수 있다고 생각한다면 AI에 대해 전혀 이해하지 못하고 있다는 것입니다.]

챗GPT를 탄생시킨 '오픈AI'가 최근 공개한 보고서입니다.

AI의 거짓말을 찾기 위해 AI의 머릿속이라고 할 수 있는 '생각 사슬'을 들여다볼 수 있습니다.

하지만 그럴 경우 AI는 인간을 기만했다는 사실을 슬며시 숨겨 버립니다.

이때 등장하는 것이 또 다른 AI.

AI의 기만을 찾아내는 데는 그럴싸하게 말을 지어낼 능력이 부족한 낮은 버전의 단순한 AI가 오히려 유용한 것으로 나타났습니다.

AI와 AI의 대결, 영화 같은 일이 벌어지는 겁니다.

하지만, 근본적으로는 AI의 행동을 인간의 의도와 가치, 윤리에 맞게 조정하는 얼라인먼트(Alignment)라는 작업을 더 고도화하는 게 필요합니다.

[송경희 / 성균관대학교 인공지능신뢰성센터장 : AI가 스스로 학습해서 행동할 때 윤리적으로 갈 수 있게, 제대로 조정해 주는 것, 정렬해 주는 것이 중요한 문제입니다.]

인간을 닮아가는 AI.

이제는 사고 능력뿐만 아니라, 속이지 않는다는 도덕적 의무까지 탑재해야 한다고 전문가들은 말합니다.

YTN 고한석입니다.



촬영기자;이현오

디자인;박유동



YTN 고한석 (hsgo@ytn.co.kr)