DataWhale组队学习——GNN(1)

DataWhale组队学习——GNN(1)

  • 这里是DataWhale社区的21年6月组队学习之图神经网络的相关笔记!
  • 学习资料与代码:https://github.com/datawhalechina/team-learning-nlp/blob/master/GNN
    目录:(待更新)
  • 0.导引
  • 1.简单图论知识与PyG库初探

导引

一、图神经网络与图深度学习

    图是一种数据结构,它对一组对象(节点)及其关系(边)建模。在过去的深度学习应用中,我们接触的数据形式主要是这四种:矩阵、张量、序列和时间序列,这些数据通常在欧几里德空间中表示。然而来自现实世界应用的数据更多地是图结构,即从非欧几里得域生成。如社交网络、交通网络、蛋白质相互作用网络、知识图谱等。图提供了一种通用的数据表示方法,众多其他类型的数据也可以转化为图的形式。
我们为什么要引入图深度学习?图可能是不规则的,一个图可能有大小不等的无序节点,而来自图的节点可能有不同数量的邻接节点,这导致一些重要的操作(比如卷积)在图像域中容易计算,但很难应用到图域中。此外,传统的机器学习技术假设样本是独立同分布的,因此传统机器学习方法不适用于图计算任务,因为每个节点通过各种类型的链接(比如引用、友谊和交互)与其他节点相关联。

  • 推荐阅读:
    《Graph Neural Networks: A Review of Methods and Applications》。
    《Deep Learning on Graphs》
    《A Comprehensive Survey on Graph Neural Networks》

二、本次组队学习内容

1.话题一:图论与图深度学习操作

  • 简单图论知识、了解常规的图预测任务
  • 基于PyG包的图数据的表示与使用

2.话题二:实现GNN的消息传递范式

  • 实现图神经网络的通用范式,即消息传递范式
  • 学习PyG中的消息传递(MessagePassing)基类的属性、方法和运行流程
  • 学习如何自定义一个消息传递图神经网络

3.话题三:节点表征学习与节点预测和边预测
    图计算应用中最基础的任务是节点表征(Node Representation)学习。

  • 以GCN和GAT(两个最为经典的图神经网络)为例,学习基于图神经网络的节点表征学习的一般过程;并且通过MLP、GCN和GAT三者在节点分类任务中的比较,学习图神经网络为什么强于普通的MLP神经网络,以及GCN和GAT的差别
  • 学习如何构造一个数据全部存于内存的数据集类
  • 学习基于节点表征学习的图节点预测任务和边预测任务的实践

4.话题四:超大图上节点表征学习

  • 学习在超大图上进行节点表征学习面临着的挑战与应对挑战的一种解决方案。最后通过实践学习超大图节点预测任务

5.话题五:

  • 基于图神经网络的图表征学习的一般过程
  • 样本按需获取的数据集类的构造方法
  • 基于图表征学习的图预测任务的实践

你可能感兴趣的:(GNN,神经网络)