论文阅读-Federated Social Recommendation with Graph NeuralNetwork

基于图神经网络的联邦社交推荐

1. 引言

因此，针对社交推荐任务，我们设计了一个联邦学习推荐系统，该系统具有异构性、个性化和隐私保护要求，具有一定的挑战性。为此，设计了一个基于图神经网络(FeSoG)的联邦社交推荐框架。

首先，FeSoG采用关系注意和聚合处理异构。其次，FeSoG使用本地数据推断用户嵌入以保留个性化。最后，提出的模型采用伪标签技术与项目采样，以保护隐私和增强训练。在三个真实数据集上的大量实验证明了FeSoG在完成社交推荐和隐私保护方面的有效性。

2. 相关工作

2.1 图神经网络推荐

图神经网络(gnn)的最新发展促使社区提出了一种基于gnn的推荐系统。GNN模型的直觉是聚合邻居来递归学习节点嵌入。GC-MC首次采用GCN架构完成用户物品评分矩阵。它使用GCN作为编码器来训练用户/项目嵌入，这些嵌入被输入到一个完全连接的神经网络来预测评级。

PinSAGE提出使用GraphSAGE主干来学习基于属性项图的项嵌入。它首先从多跳邻居中对固定大小的节点进行采样，然后使用聚合器对这些采样的节点进行聚合，以学习中心节点的嵌入。随后提出NGCF，应用GNN模型对用户-物品交互图上的协同信号进行显式建模。DGCF在二部图上应用GNN时观察到振荡问题，并利用跨跳传播层解决了该问题。BasConv是一个研究使用GNN完成篮子推荐的先驱性工作。这些工作证明了在推荐系统中使用GNN框架学习嵌入的有效性。基于gnn的模型是有优势的，因为它们的聚合可以建模高阶结构信息，这对于从交互中学习用户/项目嵌入至关重要。本文还采用GNN模型对局部图进行嵌入。我们采用图注意网络作为骨干网。

2.2 社交推荐

社交推荐的目的是通过诱导用户之间的社交链接信息来缓解数据稀疏和冷启动问题。社会推荐方法大致可分为基于社会矩阵分解的方法和基于图神经网络的方法。现有的社会矩阵分解方法要么联合分解评价矩阵和社会关系矩阵，要么用社会关系约束对用户/项目嵌入进行正则化。SoRec协同分解了用户评价矩阵和社交链接矩阵。SocialMF添加了一个正则化项来限制用户的口味和他/她信任的朋友的平均加权口味之间的差异。SoReg增加了一个正则化项，直接最小化两个可信用户之间的用户潜特征差异，可以防止一个人的可信朋友的潜特征被抵消。HGMF引入了一种分层群矩阵分解技术来学习社交网络中的用户群特征并进行推荐。

与矩阵分解方法不同，图神经网络方法直接从图中推断节点嵌入，并从最近的社会推荐工作中证明了有效性。

GraphRec和GraphRec+使用图注意网络学习用户和项目嵌入进行推荐。利用动态图注意网络从社交维度捕捉动态用户的兴趣。CUNE假设用户之间拥有隐含的社会联系。CUNE采用图嵌入法提取语义的、可靠的社会信息。DiffNet和diffnet++模拟社会影响扩散过程，增强社会推荐。conisrec研究了社会推荐中的不一致问题，并在GNN模型中引入了一致邻居采样模块。以上研究表明，在推荐系统中融入社会信息是有效的。

2.3 联邦学习推荐系统

谷歌在2016年提出了联合学习。它要求在机器学习模型中提供数据隐私保护的解决方案，并提出了现有的基于集中训练的模型的隐私问题。联邦学习的基础是设计一个去中心化的训练框架，将数据分发给客户端，而不是存储在服务器上。用户事务敏感信息是否被用于恶意目的并可能导致身份信息泄露。最近的一些研究开发了联邦推荐系统，以保护用户信息，同时仍然保持足够好的个性化。联邦协同过滤(FCF)和FedMF是两个开创性的工作，研究了一种新的联邦学习框架，用于学习推荐系统的用户/项目嵌入。这两项研究都在用户项目评级矩阵的分解的基础上发展了联合学习。为了实现联合学习，他们建议将用户的评级存储在本地。用户嵌入可以在本地进行训练，服务器只保留项目嵌入。这种培训框架可以保护隐私数据，因为不存在用户交互的转移。Ribero等人认为，发送到服务器的模型更新可能包含足够的信息来揭示原始数据，这就留下了隐私问题。他们建议使用差别隐私来限制联邦推荐系统中数据的暴露。FED-MVMF将多视图矩阵分解(MVMF)扩展为联邦学习框架。它同时分解了特征矩阵和交互矩阵。a - frs针对客户端的投毒攻击，提出了一个健壮的联邦推荐系统。它使用物品相似度模型来学习用户/物品嵌入。FedGNN是将GNN与联邦推荐系统结合起来的最新工作，也是与本文最相关的工作。但是FedGNN解决不了社交推荐，客户端的模型也不是个性化的。我们在下表中比较了一组有代表性的社会推荐系统和联邦学习方法。

3. 算法介绍

3.1 符号表

3.2 架构图

3.3 伪代码

3.4 主要公式应用

4. 总结

       该文章具有鲜明的特色，采用联邦学习的方法避免用户隐私传到服务器导致隐私信息泄露，在用户端即可训练模型，本质是数据不动模型动。采用图神经网络等技术使用用户本地社交系统进行冷启动运算，相比较一般的冷启动初始化具有极大地进步。