XAI(eXplainable AI)

Ⅰ. 설명 가능한 인공지능, XAI의 개요

가. XAI의 개념

- 인공지능 모델의 최종 결과물에 대해서 추론 과정과 원인에 대한 설명이 가능하도록 하여 사용자가 쉽게 이해할 수 있도록 하는 인공지능 기술

 

나. XAI의 등장 배경

인공지능 영향력 확산	- 국가의 경제성장 기여 - 금융, 교통, 교육 등 전 분야 의사결정 지원
인공지능 역기능 사례 증가	- 블랙박스 모델에 의한 결과 해석 불가
XAI로 문제 해결	- 의사결정 투명성 확보 - 공정성, 신뢰성 보장

 

Ⅱ. XAI 구현 기술

구분	세부 기술	설명
기존 학습모델 변경 기술	역 합성곱 신경망	- 기존 학습 모델에 역산 과정 추가 및 수정
	추론 및 시각화	- 합성곱 신경망의 학습 과정 역산으로 결과 영향 요소 추론 및 시각화
새로운 학습모델 기술	확률적 AND-OR 그래프	- 원인, 결과 도출 과정이 표현 가능한 학습 모델 - 입력 데이터의 특징을 관계 그래프로 생성
학습 모델 간 비교 기술	상호 대조 및 추론	- 설명 가능한 다른 분류 모델과의 상호 대조로 최종 결과물 설명

 

Ⅲ. XAI가 인공지능에 미치는 영향

구분	영향	설명
사회적 측면	사용자의 신뢰 확보	- 다양한 분야의 사용자로부터 신뢰 확보
	공감대 형성	- 편향된 결과 제거, 문제에 타당한 설명
기술적 측면	고성능 학습모델 도출	- 학습 모델 간 비교로 적합한 학습 모델 도출
	새로운 AI 전략 도출	- 학습 과정 다양한 패턴 추출, 분석하여 새로운 전략 도출
법/제도 측면	분쟁에 대한 원인 파악	- 인공지능 시스템의 잘못된 판단에 의한 원인 파악 가능
	GDPR등 규정준수 여부 판단	- 개인정보보호 규정과 같은 규정 준수 여부 판단 가능
인공지능산업 측면	인공지능 산업 활성화	- 인공지능에 대한 부정적 인식 제거로 산업 활성화
	비즈니스 활용수요 증가	- 설명가능한 효과적인 의사결정으로 수요 증가