WWW2020 GNN的一些总结 PPT

转载 专知，DGL

【导读】国际万维网大会（The Web Conference，简称WWW会议）是由国际万维网会议委员会发起主办的国际顶级学术会议，创办于1994年，每年举办一届，是CCF-A类会议。WWW 2020将于2020年4月20日至4月24日在中国台湾台北举行。由于疫情影响，这次会议在线上举行，本届会议共收到了1129篇长文投稿，录用217篇长文，录用率为19.2%。小编推荐一份图深度学习-图神经网络教程，预览版可以查看。

图片来源：https://github.com/dglai/WWW20-Hands-on-Tutorial

从图数据和关系数据中学习在许多应用中起着重要的作用，包括社交网络分析、市场营销、电子商务、信息检索、知识建模、医学和生物科学、工程等。在过去的几年里，图神经网络(GNNs)已经成为一种很有前途的新型监督学习框架，能够将深度表示学习的能力引入到图和关系数据中。越来越多的研究表明，GNNs在链路预测、欺诈检测、目标配体结合活性预测、知识图谱补全和产品推荐等方面的性能达到了最新水平。

本教程的目标有两个。首先，它将概述GNN背后的理论，讨论GNN非常适合的问题类型，并介绍一些最广泛使用的GNN模型体系结构和设计用来解决的问题/应用程序。其次，它将引入深度图库(Deep Graph Library, DGL)，这是一种新的软件框架，简化了高效的基于GNN的训练和推理程序的开发。为了使事情更具体，本教程将提供使用DGL的实践会话。这个实践部分将涵盖基本的图形应用程序(例如，节点分类和链接预测)，以及更高级的主题，包括在大型图和分布式设置中训练GNN。此外，它还将提供使用GNNs和DGL进行实际应用(如推荐和欺诈检测)的实践教程。

 

• 第1节:图神经网络概述。本节描述了图神经网络是如何运作的，它们的基本理论，以及它们相对于其他图学习方法的优势。此外，它还描述了图形上的各种学习问题，并展示了如何使用GNNs来解决这些问题。

   

• 第2节:深度图库(DGL)概述。本节描述DGL提供的不同的抽象和api，这些抽象和api旨在简化GNN模型的实现，并解释DGL如何与MXNet、Pytorch和TensorFlow进行接口。然后介绍DGL的消息传递API，该API可用于开发任意复杂的GNNs和它提供的预定义GNN nn模块。

   

• 第3节:基本图任务的GNN模型。本节演示如何使用GNNs解决四个关键的图数据学习任务:节点分类、链接预测、图数据分类和网络嵌入前训练。它将展示如何使用DGL的nn模块实现一个流行的GNN模型GraphSage，并展示如何在不同类型的下游任务中使用由GraphSage计算出的节点嵌入。此外，本文还将演示使用DGL的消息传递接口实现定制的GNN模型。

   

• 第4节:大型图的GNN训练。本节使用第3节中描述的一些模型来演示DGL中的微型批处理训练、多GPU训练和分布式训练。它首先描述了mini-batch训练的概念如何应用于GNN，以及如何通过使用各种抽样技术来加速mini-batch计算。接下来将举例说明一种称为邻接抽样的抽样技术，如何使用木星笔记本在DGL中实现。然后将该笔记本扩展为多GPU训练和分布式训练。

   

• 第5节:实际应用的GNN模型。本节使用前面几节中描述的技术，展示如何使用GNNs开发用于推荐和欺诈检测的可伸缩解决方案。在推荐方面，本文提出了一种基于最近邻的项目推荐方法，该方法通过采用端到端的学习方法，利用GNN模型学习项目嵌入。对于欺诈检测，它扩展了上一节中的节点分类模型，以处理异构图，并解决了标记样本很少的情况。

 

(以上slides来源DGL GitHub, 仅供学术交流)

下载链接：

https://github.com/dglai/WWW20-Hands-on-Tutorial/blob/master/GNN_overview.pptx

 

Tutorial安排：

https://github.com/dglai/WWW20-Hands-on-Tutorial