五大顶会2019必读的Graph Embedding最新论文
【导读】本文主要总结一下深度推荐系统相关的几大顶会（包含ICML2019/ KDD2019/ IJCAI2019/ WWW2019/ACL2019/ICCV2019等）必读的几篇Graph Embedding论文，都是工业界大厂最新的实践干货，各位老铁学不动也得学，请收好。
1. Cluster-GCN: An Efficient Algorithm for Training Deep and Large Graph Convolutional Networks作者：Wei-Lin Chiang, Xuanqing Liu, Si Si, Yang Li, Samy Bengio, Cho-Jui Hsiehhttp://t.cn/AipTSYnr
Google at KDD 2019，提出Cluster-GCN，高效解决工业界训练大规模深层图卷积神经网络问题，性能大幅提升基础上依靠可训练更深层网络优势达到SOTA效果，并开源了源代码。
2. DeepGCNs: Can GCNs Go as Deep as CNNs?
ICCV 2019 Oral，继Google的ClusterGCN工业风之后，成功将GCN从可训练3/4层拓展到56层，训练超级深层的图卷积神经网络。作者在 CNN 结构的启发下成功将 GCN 的可训练深度从 3/4 层拓展到了 56 层，大幅度提高了图卷积网络的性能，并开源了源代码。
3. Is a Single Embedding Enough? Learning Node Representations that Capture Multiple Social Contexts
作者：Alessandro Epasto, Bryan Perozzi
论文：http://t.cn/AiukgqNA；代码：http://t.cn/AiukgqN7；
Google at WWW 2019，论文提出的Splitter是一种无监督的嵌入方法，允许图中的节点可以嵌入多个向量，以便更好地表示节点在一些重叠社区的参与。直观地说，这是因为图中的每个节点通常会在单个上下文中与给定的邻居节点产生交互。同时开源了代码。
4. NetSMF: Large-Scale Network Embedding as Sparse Matrix Factorization
作者：Jiezhong Qiu, Yuxiao Dong, Hao Ma, Jian Li, Chi Wang, Kuansan Wang, Jie Tang
论文：http://t.cn/AiuF7p97；代码：http://t.cn/EKneTNQ；
微软 at WWW 2019，提出适用于大规模网络表示学习方法NetSMF，利用稀疏矩阵分解来学习大规模网络embedding，相对于现有方法DeepWalk/ LINE/ Node2Vec等极大地提高了学习效率，并开源了代码。
5. ProNE: Fast and Scalable Network Representation Learning
论文：http://t.cn/AiC5cuXF；代码：http://t.cn/AiC5cuXs
微软 at IJCAI 2019，提出ProNE利用矩阵的稀疏性，本质上是用一个低通滤波对原矩阵进行滤波，大大提高了速度，可以得到10-400倍的加速比。并开源了代码。
6. Representation Learning for Attributed Multiplex Heterogeneous Network
作者：Yukuo Cen, Xu Zou, Jianwei Zhang, Hongxia Yang, Jingren Zhou, Jie Tang
论文：http://t.cn/Ai9I8OPE；代码：http://t.cn/Ai9I8OPn；解读：http://t.cn/Ai9CfBvw
阿里 at KDD 2019，主要处理包含异构节点和异构边的图的表示学习问题。阿里电商的数据由用户和商品构成的图就是异构的，不仅包含异构的节点（用户和商品），而且包含异构的边（用户和商品的多种交互行为，比如点击、购买等）。不仅如此，图中的节点还包含着丰富的属性。
7. Estimating Node Importance in Knowledge Graphs Using Graph Neural Networks
作者：Namyong Park, Andrey Kan, Xin Luna Dong, Tong Zhao, Christos Faloutsos
论文：http://t.cn/EC2VhLD
Amazon at KDD 2019，提出GENI算法，解决知识图谱中节点重要性估计的问题。通过predicate-aware注意力机制和灵活的中心性调整来执行重要性分数的聚合，而不是聚合节点嵌入。在我们对GENI和现有方法的评估中，GENI在预测具有不同特征的真实KG中节点重要性方面比现有方法高出5-17%。
8. Compositional Fairness Constraints for Graph Embeddings
作者：Avishek Joey Bose, William L. Hamilton
论文：http://t.cn/AiukgnqL；代码：http://t.cn/Aiukgnqy；
Facebook at ICML 2019，针对现有的Graph Embedding算法无法处理公平约束，例如确保所学习的表示与某些属性(如年龄或性别)不相关，引入一个对抗框架来对Graph Embedding实施公平性约束。并开源了代码。
9. Graph Matching Networks for Learning the Similarity of Graph Structured Objects
作者：Yujia Li, Chenjie Gu, Thomas Dullien, Oriol Vinyals, Pushmeet Kohli
论文：http://t.cn/ES9dZYU
Google at ICML 2019，本文针对图结构物体的检索与匹配这一具有挑战性的问题，做了两个关键的贡献。首先，我们演示了如何训练图神经网络(GNN)在向量空间中嵌入图，从而实现高效的相似性推理。其次，提出了一种新的图匹配网络模型，该模型以一对图作为输入，通过一种新的基于注意力的交叉图匹配机制，对图对进行联合推理，计算出图对之间的相似度评分。
10. Large Scale Evolving Graphs with Burst Detection
作者：Yifeng Zhao, Xiangwei Wang, Hongxia Yang, Le Song and Jie Tang
论文：http://t.cn/AiC54K0M
阿里 at IJCAI 2019，提出一个叫做BurstGraph的模型，有意思的是主要通过burst的detection来拟合动态网络，这和传统大家都希望拟合一个平滑的动态模型不同。
11. Graph Neural Networks for Social Recommendation
作者：Wenqi Fan, Yao Ma, Qing Li, Yuan He, Eric Zhao, Jiliang Tang, Dawei Yin
论文：http://t.cn/AiuFAzVr；
京东 at WWW 2019，提出了一种新的用于社交推荐的图神经网络框架GraphRec。更好地联合捕获用户-商品图中的交互和意见。并在两个真实数据集上的大量实验证明了该框架的有效性。
12. Dual Graph Attention Networks for Deep Latent Representation of Multifaceted Social Effects in Recommender Systems
作者：Qitian Wu, Hengrui Zhang, Xiaofeng Gao, Peng He, Paul Weng, Han Gao, Guihai Chen
论文：http://t.cn/EiVtzOj；代码：http://t.cn/AiuFA5it；
腾讯 at WWW 2019，本文提出了对偶注意力网络来更好地学习双重社交效应的深度隐式表示，其中一个由用户特定的注意力权重建模，另一个由动态的、上下文感知的注意力权重建模。结果表明，与其他最先进的社交推荐方法相比，我们的模型在推荐精度上有了很大的提高。
13. MixHop: Higher-Order Graph Convolutional Architectures via Sparsified Neighborhood Mixing
作者：Sami Abu-El-Haija, Bryan Perozzi, Amol Kapoor, Nazanin Alipourfard, Kristina Lerman, Hrayr Harutyunyan, Greg Ver Steeg, Aram Galstyan
论文：http://t.cn/AiuFAY4V；代码：http://t.cn/Ai9bRyzk；
Google at ICML 2019，针对基于图神经网络的半监督学习方法(如图卷积网络)不能学习一般的邻域混合关系的缺点，提出了一个新的模型MixHop，它可以通过在不同距离重复混合邻居的特征表示来学习这些关系，包括不同的操作符。
14. GMNN: Graph Markov Neural Networks
作者：Meng Qu, Yoshua Bengio, Jian Tang
论文：http://t.cn/EKOJK3x；
Bengio署名文章 at ICML 2019，统计关系学习方法可以通过条件随机场对对象标签的依赖关系进行有效的建模，用于集体分类，而图神经网络则通过端到端训练学习有效的对象表示来分类。在本文中，我们提出了一种集两种方法优点于一体的Graph Markov Neural Networks (GMNN)。GMNN利用条件随机场对目标标签的联合分布进行建模，利用变分EM算法对其进行有效训练。
15. Cognitive Graph for Multi-Hop Reading Comprehension at Scale
作者：Ming Ding, Chang Zhou, Qibin Chen, Hongxia Yang, Jie Tang
论文：http://t.cn/EKSfKkr；代码：http://t.cn/AiCMhbOw
阿里 at ACL 2019，我们提出了一种新的基于CogQA的web级文档multi-hop问答框架。基于BERT和GNN的实现有效地处理了HotpotQA fullwiki数据集中数百万个multi-hop推理问题的文档，在排行榜上获得了34.9的F1 score，而最佳竞争对手的得分为23.6。
16. Coherent Comment Generation for Chinese Articles with a Graph-to-Sequence Model
作者：Wei Li, Jingjing Xu, Yancheng He, Shengli Yan, Yunfang Wu, Xu Sun
论文：http://t.cn/AiuF26Ve；代码：http://t.cn/AinBeLPa
腾讯 at ACL 2019，对于传统的基于encoder-decoder的模型来说，新闻文档通常太长，这往往会导致一般性和不相关的评论。在本文中，我们提出使用一个Graph-to-Sequence的模型来生成评论，该模型将输入的新闻建模为一个主题交互图。通过将文章组织成图结构，我们的模型可以更好地理解文章的内部结构和主题之间的联系，这使得它能够更好地理解故事。
17. Dynamically Fused Graph Network for Multi-hop Reasoning
作者：Yunxuan Xiao, Yanru Qu, Lin Qiu, Hao Zhou, Lei Li, Weinan Zhang, Yong Yu
论文：http://t.cn/EKR7rcy；代码：http://t.cn/AiuF2k4G
今日头条 at ACL 2019，提出了动态融合图网络(Dynamically Fused Graph Network ，DFGN)，这是一种解决需要多个分散证据和推理的问题的新方法。受人类逐步推理行为的启发，DFGN包含一个动态融合层，从给定查询中提到的实体开始，沿着文本动态构建的实体图进行探索，并逐步从给定文档中找到相关的支持实体。
18. Incorporating Syntactic and Semantic Information in Word Embeddings using Graph Convolutional Networks
作者：Shikhar Vashishth, Manik Bhandari, Prateek Yadav, Piyush Rai, Chiranjib Bhattacharyya, Partha Talukdar
论文：http://t.cn/EKR7rcy；代码：http://t.cn/AiuF2k4G
微软 at ACL 2019，提出SynGCN来解决现有的词嵌入方法大多利用词的sequential context而没有利用词的syntactic context，SynGCN是一种灵活的基于图卷积的学习词嵌入的方法。我们还提出了SemGCN，这是一个有效的框架，用于整合不同的语义知识，以进一步增强所学习的单词表示。并开源了代码。
19. Conditional Random Field Enhanced Graph Convolutional Neural Networks
作者：Hongchang Gao; Jian Pei; Heng Huang
论文：http://t.cn/AiuFLy0D
京东 at KDD 2019，提出了一种新的CRF层用于解决图卷积神经网络的隐层中保存不同节点间的相似性信息问题。大量的实验结果验证了我们提出的CRF层更易于计算和优化，以及他的有效性。
（*本文为 AI科技大本营转载文章，请联系原作者）
◆
精彩推荐
◆
即日起，限量 5 折票开售，数量有限，扫码购买，先到先得！
推荐阅读
你点的每个“在看”，我都认真当成了AI