[짤막상식] 내 손안의 인공지능 ‘온디바이스 AI'

내 손안의 인공지능‘온디바이스 AI'

‘챗 GPT'를 비롯한 생성형 인공지능은 모두 서버에서 실행되고 있다.

인터넷을 거치지 않으면 이용할 수 없고 정보 처리 속도 저하, 개인정보 유출 등의 문제 발생.

컴퓨터나 스마트폰은 단순히 서버에 접속해 결과를 보여주는 역할만 해왔다.

‘온디바이스 AI'는 외부 서버나 클라우드 기반이 아닌 기기 내장형 인공지능(AI)을 말한다.

클라우드 서버를 거치지 않아 빠른 서비스 제공이 가능하고 개인 정보 유출의 위험이 줄어든다.

기기 자체에 통역, 자율주행, 작동 제어 등 특정 역할에 대한 맞춤형 AI 반도체‘NPU'를 탑재한다.

신경망처리장치 NPU(Neural Processing Unit)는 사람의 뇌를 모방해 만든 반도체 칩.

학습보다는 추론에 특화됐다.

CPU와 GPU의 인공지능 연산에 비해 속도가 빠르고, 전기가 적게 든다.

인공지능(AI)이 초거대 생성형 AI에서 내 손안의 맞춤형 AI로 변하고 있다.

제작 : 강영관[ykkang@ytn.co.kr]

AD : 심혜민

#알고리즘 #CES #컴퓨터 #엣지 디바이스 #AP


YTN 강영관 (ykkang@ytn.co.kr)