인공지능 악용

Ⅰ. 인공지능 편향성 유형

가. 인공지능 편향성의 정의

- 학습 데이터 또는 AI 알고리즘이 왜곡되어 왜곡된 결과 예측과 잠재적으로 유해한 결과를 초래하는 편향된 결과

 

나. 인공지능 편향성의 유형

구분	유형	설명
데이터 원인	편향된 표본	- 편향된 초기 데이터 학습 - 편향된 결과 재학습
	제한된 특징	- 데이터의 주요 특징 미포함 - 관련성이 낮은 특징 학습
	표본 크기 불균형	- 데이터 표본 집단의 크기 불균형
모델 원인	알고리즘 모델 문제	- 데이터 상관없이 알고리즘 모델이 편향 발생

 

Ⅱ. XAI(eXplainable Artificial Intelligence)

가. XAI의 등장 배경 및 개념

인공지능 사회/경제적 영향 증가	인공지능 역기능 발생	XAI 등장
- 인공 지능 영향력 확산	- 역기능 / 사고사례 증가	- XAI의 필요성

- 사용자가 인공지능 시스템의 최종 결과를 이해하고 올바로 해석할 수 있도록 결과 생성 과정을 설명 가능하도록 하는 인공지능 기술

 

나. XAI의 종류

 

종류	구현 기술	설명
기존 학습모델 변형 기술	- 역 합성곱 신경망 - 추론 및 시각화	- 기존 학습 모델에 역산 과정을 추가 - 역 합성곱 신경망으로 결과 영향 요소 추론
새로운 학습모델 개발 기술	- 확률적 AND-OR 그래프	- 원인-결과 도출 과정 표현 가능한 학습 모델 개발 - 입력 데이터 특징 관계를 그래프로 생성
학습 모델 간 비교 기술	- 상호 대조 및 추론	- 설명 가능한 다른 분류 모델과 상호 대조 및 추론

 

다. XAI가 인공지능에 미치는 영향

구분	영향	설명
사회적 측면	고객 신뢰 확보	- 다양한 AI 시스템 사용자로부터 신뢰 확보
	사회적 공감대 형성	- 편향 제거로 공감할 타당한 설명 가능
기술적 측면	고성능 학습모델 도출	- 모델 간 비교로 적합한 학습 모델 도출
	새로운 인공지능 전략	- 데이터 패턴 추출, 분석으로 새로운 전략 도출
법/제도 측면	분쟁 원인 파악	- AI의 잘못된 결과에 의한 분쟁 원인 파악 용이
	규정준수 판단	- GDPR 등 규정 준수여부 판단 가능
AI 산업 측면	AI 산업 활성화	- 조작, 편향의 부정적 인식 제거로 산업 활성화
	비즈니스 수요 증가	- AI 통한 효과적인 의사결정으로 활용 수요 증가

 

Ⅲ. 기술적, 비기술적, 정책 즉면의 인공지능 신뢰성 확보 방안

구분	방안	설명
기술적	- 양질의 데이터 확보	- 신뢰할 수 있는 양질의 데이터 확보
	- 설명 가능한 인공지능	- 설명 가능한 인공지능 개발로 신뢰성 향상
	- 알고리즘의 편향 수정	- 인공지능 모델 자체의 편향 수정
비기술적	- 편향 테스트	- 데이터 및 모델의 편향성 테스트 수행
	- 편향 완화 프로세스 수립	- 데이터 및 모델 편향 완화 프로세스 수립
정책 측면	- 인공지능 윤리 교육 강화	- 인공지능 관련 종사자 윤리 교육 강화
	- 인공지능 분야 자체 다각화	- 인공지능 분야 다각화 및 활성화

- 인공지능의 결과물에 대한 공개, 검토, 평가로 편향성 제거 및 지속 개선