图神经网络和常见的神经网络的区别

GNN-Graph Neural Networks

  • 0 前言
  • 1 图神经网络和以往深度学习的区别
  • 2 图神经网络的特点

参考知乎:https://zhuanlan.zhihu.com/p/136521625

0 前言

图神经网络有很多比较好的综述:

1、Graph Neural Networks: A Review of Methods and Applications.
2、A Comprehensive Survey on Graph Neural Networks
3、Deep Learning on Graphs: A Survey

更多的论文可以参考清华大学整理的GNN paper list 。

1 图神经网络和以往深度学习的区别

以往:随着机器学习、深度学习的发展,语音、图像、自然语言处理逐渐取得了很大的突破,然而语音、图像、文本都是很简单的序列或者网格数据,是很结构化的数据,深度学习很善于处理该种类型的数据
图神经网络和常见的神经网络的区别_第1张图片现实世界:并不是所有的事物都可以表示成一个序列或者一个网格,例如社交网络、知识图谱、复杂的文件系统等,也就是说很多事物都是非结构化的。
图神经网络和常见的神经网络的区别_第2张图片
相比于简单的文本和图像,这种网络类型的非结构化的数据非常复杂,处理它的难点包括:

  • 图的大小是任意的,图的拓扑结构复杂,没有像图像一样的空间局部性
  • 图没有固定的节点顺序,或者说没有一个参考节点
  • 图经常是动态图,而且包含多模态的特征

那么对于这类数据我们该如何建模呢?能否将深度学习进行扩展使得能够建模该类数据呢?这些问题促使了图神经网络的出现与发展。

2 图神经网络的特点

相比较于神经网络最基本的网络结构全连接层(MLP),特征矩阵乘以权重矩阵,图神经网络多了一个邻接矩阵。计算形式很简单,三个矩阵相乘再加上一个非线性变换。
图神经网络和常见的神经网络的区别_第3张图片因此一个比较常见的图神经网络的应用模式如下图,输入是一个图,经过多层图卷积等各种操作以及激活函数,最终得到各个节点的表示,以便于进行节点分类、链接预测、图与子图的生成等等任务。

图神经网络和常见的神经网络的区别_第4张图片上面是一个对图神经网络比较简单直观的感受与理解,实际其背后的原理逻辑还是比较复杂的。

你可能感兴趣的:(随笔,1024,Python数学算法,神经网络,算法,计算机视觉,GNN,图神经)