온디바이스 AI

Ⅰ. 디바이스 자체 AI 탑체, 온디바이스 AI의 개념

정의	- 서버나 클라우드에 연결할 필요 없이 스마트기기 자체적으로 정보 수집 및 연산 처리를 할 수 있는 AI 기술
특징	- 저지연	- 서버 및 클라우드와의 데이터 이동 없이 자체 처리
	- 향상된 보안	- 데이터의 단말 중심 운영으로 이동 중 발생하는 공격 차단
	- 유연	- 서버 및 클라우드 연결이 필요하지 않아 환경에 유연

 

Ⅱ. 온디바이스 AI의 기술

구분	기술	설명
하드웨어	HBM (High Bandwidth Memory)	- 고성능 컴퓨팅에 필요한 메모리 - GPU와 같은 고성능 프로세서에 사용
	PIM (Processor in Memory)	- 데이터 저장하는 메모리 자체 연산 수행 - 데이터 전송 속도 향상 및 병목 현상 감소
	SoC (System on Chip)	- 여러가지 기능을 하나의 침에 통합한 기술 - CPU, GPU, NPU, 메모리 등으로 구성
	NPU (Neural Processing Unit)	- 인공지능 연산 기술에 특화되어 개발된 칩 - GPU와 유사한 구조로 에너지 효율 증가
	Edge TPU	- 구글이 개발한 엣지 디바이스 환경의 온디바이스 AI 수행 기술
소프트웨어	모델 구조 개선	- ResNet, DenseNet, SqueezeNet - 신규 모델 구조로 파라미터 축소 및 성능 개선
	모델 연산량 개선	- MobileNet, ShuffleNet - 합성곱 필터의연산을 효율적으로 감소
	자동 모델 탐색	- NetAdapt, MNasNet - 강화 학습을 통해 최적의 모델 탐색
	모델 경량화	- 가중치 가지치키, 가중치 공유 기법 등 불필요 파라미터 제거

 

Ⅲ. 온디바이스 AI 활용

구분	활용
스마트폰	- 얼굴인식, 이미지 인식, 음성 인식, 위치 인식 등
웨어러블 디바이스	- 심박수 측정, 운동량 측정, 수면 패턴 추적 등 건강관리
IoT 기기	- 가전 제품 AI 기능, 보안 카메라, 자동차 자율주행
AI 비서	- 아이폰 Siri, 빅스비 등 인공지능 비서