Contextualized Graph Attention Network for Recommendation with Item Knowledge Graph

Contextualized Graph Attention Network for Recommendation with ItemKnowledge Graph

Abstract

图神经网络(GNN)最近被应用于知识图谱辅助于推荐。 现有基于GNN的方法在KG中显式地建模实体与其局部图形上下文（一阶邻居集）之间的依赖关系，但可能无法有效地捕获其非局部图形上下文（即最相关的高阶邻居集）。本文提出了一种新的推荐框架，即Contextualized GraphAttentionNet work(CGAT)，它可以显式地利用知识图谱中实体的局部和非局部图形上下文信息。尤其是，CGAT通过用户特定的图形注意机制捕获局部（local context）上下文信息，考虑用户对实体的个性化偏好。 此外，CGAT采用偏置随机游走抽样过程提取实体的非局部上下文，并利用递归神经网络(RNN)对实体和它的非局部上下文实体之间的依赖关系进行建模 。 为了捕捉用户对项目的个性化偏好，还开发了一种特定于项目的注意机制来模拟目标项目与从用户的历史行为中提取的上下文项之间的依赖关系。

Introduction

论文中提出知识图谱用于推荐的主要挑战： 怎么有效的探索知识图谱中的结构和实体的关系？
目前比较火的基于GNN的推荐方法可以自动捕获KG的结构和语义信息，它们可能还存在以下不足：
大多数基于GNN的方法缺乏用户对实体特定偏好的建模。
local graph context（the first-order neighbors）
non-local graph context（the set of most related high-order neighbors）
现存的 GNN-based methods通过层层的特征传播解决一阶邻居实体信息缺失现象。 然而，这可能会削弱更紧密联系的实体的影响，甚至带来噪音信息。

为了解决这些问题，本文提出了一个新的推荐框架，即上下文化图形注意网络(CGAT)，它显式地利用实体的本地和非本地上下文。 在KG中，以及从用户的历史数据中提取的项目上下文。

本文件的贡献如下：（1） 提出了一种用户特定的图形注意机制来聚合KG中的本地上下文信息，以供推荐。 依据不同的用户可能对KG中的同一实体有不同的偏好。（2） 明确利用KG中的非本地上下文信息， 通过开发一个有偏差的随机游走抽样过程来提取实体的非局部上下文， 使用递归神经网络(RNN)在KG中建模实体与其非局部上下文之间的依赖关系。（3） 开发了一个特定于项目的注意机制，它利用从用户的历史行为数据中提取的上下文信息来模拟用户对项目的偏好。（4） 在实际数据集上进行了广泛的实验，以证明CGAT的有效性。 实验结果表明，CGAT通常优于最先进的基于KG的推荐方法。

Related Work

基于KG的推荐方法可分为三大类：
（1） 基于正则化的方法
（2）基于路径的方法
（3） 基于GNN的方法

（1） 基于正则化的方法利用KG结构，将正则化项引入用于学习实体嵌入的损失函数中。
（2）基于路径的方法利用实体之间的各种连接模式，为了解决人工设计的元路径的局限性，提出了不同的选择规则或传播方法。
（3）基于GNN的方法旨在开发基于端到端KG的推荐系统。 这些基于GNN的方法隐式地通过逐层传播聚合高阶邻域信息，而不是显式地建模实体与其高阶层邻居之间的依赖关系 。

Contextualized Graph Attention Network

对于一个项目对应的实体，它总是连接能够丰富知识图谱信息的许多其它实体。 为了考虑用户对实体的个性化偏好， 开发了一种特定于用户的图形注意机制，以聚合KG中实体的邻域信息。 对于不同的用户，计算同一邻域实体的不同注意力分数。 然后，可以根据用户特定的注意力分数聚合邻域实体的嵌入。