SGCN:具有结构化图卷积网络用于推荐系统(SIGIR2021)

摘要:

图卷积网络 (GCN) 在协同过滤方面非常强大, 它的关键组成部分是邻域聚合机制提取用户和项目的表示。然而,现实世界的用户-项目图通常是不完整和嘈杂的。如果 GCN 没有正确正则化,聚合会误导邻域信息导致次优性能。此外,现实世界的用户-项目图通常是稀疏的和low-rank的。这两个固有的图属性广泛用于浅矩阵完成模型,但在图模型中研究较少。

在这里,作者提出了结构化图卷积网络 (SGCN),通过稀疏性和低秩的图结构特性来提高 GCN 的性能。为了实现稀疏性,作者将 GCN 的每一层与一个可训练的随机二元掩码连接起来,以修剪嘈杂和不重要的边,从而得到一个干净且稀疏的图。为了保持其低秩属性,作者使用了核范数正则化。通过解决随机二元优化问题来共同学习随机二元掩码和原始 GCN 的参数。进一步提出了无偏梯度估计器以更好地反向传播二元变量的梯度。实验结果表明,与最先进的 GCN 相比,SGCN 具有更好的性能。

具体实现:

我们的SGCN主要由三部分组成:精心设计的GCN、随机二元掩模和秩近似法。最后,引入损失函数进行模型优化。

文中介绍了NGCF and LIghtGCN作为basic GCN

设定一个二进制矩阵引入连接矩阵中作为input graph adjacency matrix :

SGCN:具有结构化图卷积网络用于推荐系统(SIGIR2021)_第1张图片

SGCN:具有结构化图卷积网络用于推荐系统(SIGIR2021)_第2张图片

 除了通过二进制掩模实现稀疏图外,GCNs本身还存在针对小扰动的漏洞: 

 

 

 

你可能感兴趣的:(SGCN:具有结构化图卷积网络用于推荐系统(SIGIR2021))