CS224W6.3——图深度学习

在这篇中,将介绍图神经网络的架构。关键思想是,在GNNs中,根据局部网络邻域生成节点嵌入。gnn通常由任意数量的层组成,而不是单层,以集成来自更大上下文的信息。介绍了如何使用gnn来解决优化问题,以及它强大的归纳能力。

文章目录

  • 1. 主要内容
  • 2. 初试设置
  • 3. 简单想法
    • 3.1 直接将邻接矩阵输入
    • 3.2 CNN想法
    • 3.3 现实世界中的图结构
    • 3.4 从图像到图的思想
  • 4. 图卷积网络
    • 4.1 聚合邻域
    • 4.2 Deep Encoder
    • 4.3 训练模型
      • 4.3.1 矩阵形式
      • 4.3.2 如何训练?
      • 4.3.3 无监督学习
      • 4.3.4 监督学习
    • 4.4 流程
  • 5. 归纳能力
  • 6. 总结

1. 主要内容

CS224W6.3——图深度学习_第1张图片

2. 初试设置

CS224W6.3——图深度学习_第2张图片

3. 简单想法

3.1 直接将邻接矩阵输入

CS224W6.3——图深度学习_第3张图片

3.2 CNN想法

CS224W6.3——图深度学习_第4张图片

3.3 现实世界中的图结构

CS224W6.3——图深度学习_第5张图片

3.4 从图像到图的思想

CS224W6.3——图深度学习_第6张图片

4. 图卷积网络

CS224W6.3——图深度学习_第7张图片

我们可以简单认为图卷积网络分为两个步骤:

  • 确定节点计算图
  • 计算图中传播和转换信息。

4.1 聚合邻域

CS224W6.3——图深度学习_第8张图片

CS224W6.3——图深度学习_第9张图片

与经典神经网络不同的是,图神经网络中,每个节点都可以定义自己的神经网络架构

但这样,我们就需要同时训练多个架构

  • 多层时:

CS224W6.3——图深度学习_第10张图片

核心问题是,如何聚合邻域?

CS224W6.3——图深度学习_第11张图片

基础方法:

CS224W6.3——图深度学习_第12张图片

CS224W6.3——图深度学习_第13张图片

4.2 Deep Encoder

CS224W6.3——图深度学习_第14张图片

4.3 训练模型

CS224W6.3——图深度学习_第15张图片

要想训练我们的模型生成embeddings,我们需要定义损失函数。

确定参数:

CS224W6.3——图深度学习_第16张图片

4.3.1 矩阵形式

CS224W6.3——图深度学习_第17张图片

CS224W6.3——图深度学习_第18张图片

4.3.2 如何训练?

CS224W6.3——图深度学习_第19张图片

4.3.3 无监督学习

CS224W6.3——图深度学习_第20张图片

4.3.4 监督学习

CS224W6.3——图深度学习_第21张图片

CS224W6.3——图深度学习_第22张图片

4.4 流程

CS224W6.3——图深度学习_第23张图片

CS224W6.3——图深度学习_第24张图片

CS224W6.3——图深度学习_第25张图片

CS224W6.3——图深度学习_第26张图片

5. 归纳能力

CS224W6.3——图深度学习_第27张图片

CS224W6.3——图深度学习_第28张图片

CS224W6.3——图深度学习_第29张图片

6. 总结

CS224W6.3——图深度学习_第30张图片

你可能感兴趣的:(图神经网络,深度学习,人工智能,数据挖掘,推荐算法,分类)