八、图神经网络基础【CS224W】（Datawhale组队学习）

开源内容：https://github.com/TommyZihao/zihao_course/tree/main/CS224W

子豪兄B 站视频：https://space.bilibili.com/1900783/channel/collectiondetail?sid=915098

斯坦福官方课程主页：https://web.stanford.edu/class/cs224w

前言

• 机器学习 = 数据挖掘 = 人工智能
• 深度学习：使用深度神经网络进行机器学习
• 图深度学习：使用深度学习对图进行机器学习
• 图深度学习 = 图神经网络

深度学习基础

监督学习

损失函数

随机梯度下降

• iteration = step= 输入一个mini batch = 一次迭代 = 一步
• epoch = 一轮 = 完整遍历训练集的所有样本一遍

反向传播

图神经网络简介

图表示学习的发展历史

图神经网络

图滤波操作

通用的GNN框架（节点任务）

图池化操作

通用的GNN框架（图任务）

谱图论

拉普拉斯矩阵作为算子

拉普拉斯矩阵的特征分解

特征向量作为图上的信号

图傅立叶变换（GFT）

图滤波

两大类图滤波操作

最早的图滤波操作

图谱滤波

将图谱滤波运用到GNN上

GCN-Filter: 简化的Cheb-Filter

处理多通道图信号的GCN-Filter

从空间域理解GCN-Filter

GraphSage-Filter

ECC-Filter

GGNN-Filter

MPNN

PPNP

APPNP

一些滤波操作的简单回顾

从图信号降噪的角度理解GCN-Filter

从图降噪角度理解PPNP


从图降噪角度理解GCN


从图降噪角度理解GAT



一个统一的理解

一个统一的框架: UGNN

利用UGNN设计新的图滤波操作

Graph Trend Filtering

图池化

图池化操作

通用的GNN框架（图任务）

平面池化

平均池化和最大池化

添加虚拟节点进行池化

基于注意力机制的平面池化

层次图池化操作

gPool

SAGPool

DiffPool


Eigenpooling

通过傅立叶变换得到

用傅立叶系数作为特征

用截断傅立叶系数作为特征

总结

本文主要回顾了一下深度学习的相关知识，先从总体上对图神经网络进行了简要介绍，图表示学习从数据降维发展到图嵌入到图神经网络。图神经网络需要一些谱图论的知识，因此本文又介绍了谱图论的相关知识，包括拉普拉斯矩阵和傅里叶变化等。最后介绍了图神经网络中常见的两种操作：图滤波和图池化。