그래프 신경망

Ⅰ. 그래프 데이터 학습, GNN(Graph Neural Network)의 개요

가. GNN의 개념

- 데이터의 특징 추출을 위해 이웃 노드 간 정보를 이용하여 특징 벡터를 찾아내는 그래프 기반 신경망 모델.

 

나. GNN의 특징

특징	설명
추상적 개념 접근 용이	- 연결된 데이터 표현 시 관계, 상호작용 등 추상적 개념 접근에 용이
Non-Euclidean 공간 표현/학습	- SNS, 분자 데이터 등 유클리디안 공간에 표현 불가능한 데이터 표현

 

Ⅱ. GNN의 학습 과정 및 학습 모델

가. GNN의 학습 과정

학습 과정	기술 요소	학습 내용
변환 (Transformation)	- 인접 행렬 - 노드 특성 행렬	- Non-Euclidean 공간에 존재하는 복잡한 형태의 데이터를 신경망 학습에 적합한 형태로 변환
취합 (Aggregate)	- Target Node - Hidden State	- 각 레이어에서 타겟 노드에 인접한 모든 이웃 노드의 은닉 변수 정보를 취합
결합 (Combine)	- Hidden State - Aggregated Information	- 타겟 노드와 앞서 결합된 이웃 노드의 은닉 변수 정보 기반 타겟 노드 업데이트
생성 (Readout)	- Regression - Classification	- 모든 노드의 은닉변수를 결합하여 그래프 단위 은닉변수 생성
출력 (Output)	- Node, Edge, Graph - Graph, Embedding	- 특정 레이어까지 과정 반복 후 노드별 임베딩 계산하여 출

 

나. GNN의 학습 모델

구분	학습 모델	학습 방법
Recurrent Model	RecGNN	- 노드 특징 추출 위해 파라미터 재귀적 적용 - hidden state를 재귀적으로 업데이트
	GGNN	- RNN에서 자주 사용되는 GRU 적용 - 재귀를 고정된 횟수의 step으로 감소
Spectral Model	GCN	- CNN 연산과 유사 방식으로 인접 노드 이용 임베딩 - over smoothing 해결 위해 skip connection 사용
	HGNN	- 서로 다른 종류의 그래프에 GNN 적용 - 다른 구조, 의미 유지하며 맵핑 함수 학습
Spatial Model	GAT	- Transformer의 attention 그래프에 적용 - 이웃 노드 정보 기반 중요도 고려 임베딩
	GraphSAGE	- neighbor sampling 기반 mini-batch 학습 - 여러 sub-graph 이용하여 학습

- GNN 문제점으로 노드 은닉 상태 비효율성, Edge 정보 계산 불가 등 GGNN, GCN 개선

 

Ⅲ. GNN 문제점 및 대응 방안

문제점	대응 방안
- 노드 은닉 상태 반복 업데이트로 비 효율적 - 기본 GNN은 Edge의 중요 정보 계산 불가 - 반복 맵핑 시 노드 정보구별 제약 사항	- 기본 GNN 한계 극복 위해 GGNN, R-GCN 등의 개선된 GNN모델 사용