구조
- 노드 피쳐 메트릭스
- 인접행렬
- 노드피쳐 메트릭스 , filter weights, 인접행렬을 곱하면 message passing 이 된다.
- Inception
- message passing을 몇 번 반복하느냐에 따라 receptive field의 크기를 조절할 수 있다.
- Readout Layer
- 그래프의 노드 순서와 상관없이 학습되도록 하는 방법 중 하나
- MLP로 연결해버림
- skip connection
- resNet 처럼 연결하면 된다
- gated skip connection을 적용할수도 있다. (두 입력을 어느정도의 비율로 적용할지 비율을 계산하여 반영하는 방법)
- Attention
- 인접 노드들의 정보를 합칠때 Attention 기법을 이용하여 weighted sum 형태로 구현 가능하다
'기계학습' 카테고리의 다른 글
Optimizer 종류 (0) | 2022.01.01 |
---|---|
[정리노트] XGBoost 이해하기 (Regression) (0) | 2020.08.25 |
Gradient Boost for classification (binary) (0) | 2020.08.20 |
K-means Algorithm (0) | 2015.11.25 |