论文笔记-FedGraphNN: A Federated Learning Benchmark System for Graph Neural Networks

1.简述

GNN已经在业界有了很广泛的应用且很多领域已有SOTA的效果,但是在隐私安全日渐趋严的背景下,如何通过FL实现gnn的跨域联邦学习是一个有益的结合,本文通过联邦环境下对于Graph数据的如何在不同domain集群下进行训练,包括邻居采样、聚合和梯度回传等提出了一套完整的方案,并开源相关实现框架

2.两阶段的联邦GNN训练方式

论文笔记-FedGraphNN: A Federated Learning Benchmark System for Graph Neural Networks_第1张图片

阶段一:消息传递,下图k表示编号为k的客户端

论文笔记-FedGraphNN: A Federated Learning Benchmark System for Graph Neural Networks_第2张图片

阶段二:readout,下图中S可以表示节点或者图,根据任务类型而定

论文笔记-FedGraphNN: A Federated Learning Benchmark System for Graph Neural Networks_第3张图片

标题3.框架功能和架构

论文笔记-FedGraphNN: A Federated Learning Benchmark System for Graph Neural Networks_第4张图片

内核功能:框架在标准的分布式引擎功能基础上,通过分布式通信组件实现了多client联合训练的交互需要
ML-API:支持联邦环境下的Avg、Opt、Nas、GKT等,并以此为基础封装实现了GraphSage、GCN、GAT等常见图模型
应用层:支持以GNN为建模基础的推荐系统、社交网络等应用场景

标题4.总结

该文中仅仅体现GNN和FL的结合应用,但是只是简单的线性叠加,并为说明清楚GNN建模逻辑在FL环境下的增益价值,以及GNN在FL环境下存在的多个client时的对于sub-graph构建时图之间edge连接的处理细节,以及在核心采样和聚合操作上如何跨域实现等相关建模核心问题;对于联邦框架而言,其对比general的FL框架该框架的核心优势之处;工作更多体现在传统框架上的GNN相关api的封装应用

你可能感兴趣的:(论文笔记,机器学习,深度学习,人工智能,推荐算法,神经网络)