Graph Contextualized Self-Attention Network for Session-based Recommendation

Graph Contextualized Self-Attention Network for Session-based Recommendation

本篇论文主要是在讲图上下文自注意力网络做基于session的推荐，在不使用循环神经网络和卷积神经网络的情况下，自注意网络在各种序列建模任务中取得了显著的成功，然而SAN缺乏存在于相邻项目上的局部依赖性，并限制了其学习序列中上下文表示的能力。本文提出使用图上下文自注意网络模型，使用图神经网络和自注意力机制做推荐，每个session使用自注意力机制学习长期依赖性。最后，每个会话被表示为该会话的全局偏好和当前兴趣的线性组合。
首先是session图的构建，session图的节点表示session中item，session中的边表示item中的关系，构成一个有向图，如下图所示

我们用M(I)和M(O)表示输入和输出边的权重连接矩阵，举个栗子，假设一个Session S = {s1, s3, s2, s4, s3}，M(I)和M(O)的矩阵如下图所示：

在构建完session图之后，经过图神经网络得到session中每个item的潜在的表示，然后再经过自注意力层得到session的表示，最后经过评分和预测，得到下一次要点击的item出现的概率，最后进行推荐。
论文模型如下：

具体步骤如下：
首先对于在图会话中，在时间t，对于每个节点st，通过输入边和输出变权重连接矩阵，不同节点之间的信息传播可以形式化为：

然后我们将得到的at和先前的状态s(t-1)作为输入，将他们送入图神经网络中，最终会得到每个item的状态表示

我们将得到的每个item的表示，放入自注意力层来更好的捕捉全局的session偏好

最终经过打分排名，然后使用softmax函数求其概率，最终再做出最后的推荐。
总结：本文主要是讲使用自注意力机制和图神经网络做基于session的推荐，其优点是可以有效的捕获邻居节点的信息，其缺点是，在构建session图时有信息损失，而且存在无效的长期依赖问题。