Federated联邦学习第9页

第十九周工作进展报告 Local Differential Privacy for Deep Learning

第十九周工作进展报告本周主要是学习联邦学习与隐私保护中的一种用于深度学习框架下的本地差分隐私方法以及一种SGD-DP（stochasticgradientdescentdifferentialprivacy

三金samkam·2023-01-28 14:32

【论文导读】- SpreadGNN: Serverless Multi-task Federated Learning for Graph Neural Networks（去服务器的多任务图联邦学习）

文章目录论文信息摘要SpreadGNNFramework用于图层次学习的联邦图神经网络图神经网络的联邦多任务学习SpreadGNNDPA-SGD的收敛性质实验总结论文信息SpreadGNN:ServerlessMulti-taskFederatedLearningforGraphNeuralNetworks原文链接：SpreadGNN:ServerlessMulti-taskFederatedLe

1 + 1=王·2023-01-24 23:36

Juli_Eyre·2023-01-21 19:10

联邦学习知识学习

[3]陈兵,成翔,张佳乐等.联邦学习安全与隐私保护综述[J].南京航空航天大学学报服务器端GAN攻击恶意服务器首先假扮成正常的服务器为用户提供联邦学习服务，但其主要目的其实是为了重构特定攻击目标用户的训练样本

Juli_Eyre·2023-01-21 19:40

【MindSpore】云云联邦学习+Fasterrcnn目标检测+差分隐私训练保护隐私方案综合实现

【MindSpore】云云联邦学习+Fasterrcnn目标检测+差分隐私训练保护隐私方案综合实现MindSpore云云联邦crosssilo链接：https://www.mindspore.cn/federatedMindSporeModelZoofasterrcnn

emmmmmmT·2023-01-20 15:03

隐私计算学习笔记

目录安全保护技术和应用总结基础隐私计算技术在联邦学习中的应用参考书籍图片来源：https://www.basebit.ai/en/Statics/Images/en/dbys.png隐私计算技术的产生是互联网

苹果二·2023-01-20 12:15

现有网络模型的使用和修改

（联邦学习笔记，资料来源于b站小土堆）在pytorch中，torchvison.module里有很多现有的模型可以直接使用，包括AlexnetVGGResNetSqueezeNetDenseNetInceptionv3GoogLeNetShuffleNetv2MobileNetv2MobileNetv3ResNextWideResNetMNASNetQuantizedModels

沉睡中的主角·2023-01-17 22:33

划分非独立同分布（Non-IID）数据集

在传统的机器学习中，数据同在一个中心，不会出现什么非独立同分布的问题；然而在联邦学习中，每个客户端（client）都拥有自己的数据集，大家各不相同，所以数据不独立同分布是常态。

游星凌·2023-01-17 09:59

群体智能中的联邦学习算法综述---简笔记（除安全类）

群体智能中的联邦学习算法简述介绍群体智能与联邦学习的关系联邦学习框架分类中心化联邦半中心化联邦去中心化联邦（未涉及区块链等隐私的研究，所以未总结）精度优化泛化性优化收敛性优化效率优化模型神经网络开源平台

35岁北京一套房·2023-01-17 09:28

FedBN总结

文章通过在局部模型中加入批量归一化层（BN）解决联邦学习数据异构性中featureshift这种情况（之前很多文章都是研究labelshift或clientshift），文章将这种方法名为FedBN。

联邦学习小白·2023-01-17 09:58

【联邦学习论文阅读】常用算法理解（SCAFFOLD、FedPD、FedBN）-目前仅SCAFFOLD

SCAFFOLD（ICML-2020）：SCAFFOLD:StochasticControlledAveragingforFederatedLearningFedPD：https://arxiv.org/abs/2005.11418FedBN（ICLR2021）：FEDBN:FEDERATEDLEARNINGONNON-IIDFEATURESVIALOCALBATCHNORMALIZATION杂七

Momahe·2023-01-17 09:58

联邦学习开坑！

入门联邦学习（FL），在导师的建议下，我决定从客户端数据异构这一方向出发开展学习。这里就先开个坑，开始记录自己的学习心得，欢迎各位批评指正，共同学习。

联邦学习小白·2023-01-17 09:27

怎么实现联邦学习中的Non-IID？

联邦学习的一大特点就是数据分布是Non-IID，Non-IID意为非独立同分布。那么怎么在实验中实现non-iid呢？这是我这篇博客想讨论的问题。

周杰伦今天喝奶茶了吗·2023-01-17 09:56

联邦学习中的non-iid总结

最近研究联邦学习（federatedlearning，FL）中的non-iid的解决办法时遇到瓶颈，写成博客将最近的工作总结一下，希望有大佬看到这篇博客不吝赐教。

海边的西西弗斯·2023-01-17 09:22

百度安全入选权威报告《联邦学习与可信AI市场机会分析》典型厂商

联邦学习作为一种新兴的人工智能基础技术，在国际数据公司（IDC）定义下，联邦学习是一种分布式隐私保护建模方法，在保证所有训练数据不出域的前提下，多个参与方通过与聚合模型协作学习的方式共同训练新的数据模型的方法

·2023-01-16 11:52

创投更重点关注技术、场景“两手抓”的科技企业

在自然语言处理、迁移学习和联邦学习等领域，取得了突破。对于引领人工智能发展方向的前沿技术，各个机构对是那些掌握世界级顶尖技术能力的团队支持力度最大。更广：人工智能中相对成熟的

中国数字化转型网·2023-01-15 11:53

ECCV 2022 | FedX: 在无监督联邦学习中进行知识蒸馏

©PaperWeekly原创·作者|张成蹊单位|Freewheel机器学习工程师研究方向|自然语言处理论文的立意是在联邦学习过程中，结合对比学习，用局部与全局的两种蒸馏方式来无监督地学习样本的向量表示。

PaperWeekly·2023-01-12 08:38

想详细了解风头正劲的联邦学习吗？这篇最强综述论文满足你

点击上方“深度学习技术前沿”，选择“星标”公众号资源干货，第一时间送达联邦学习（FederatedLearning，FL）指多个客户端在一个中央服务器下协作式地训练模型的机器学习设置，该设置同时保证训练数据去中心化

深度学习技术前沿·2023-01-12 06:13

【技术博客】面向大规模的联邦学习：系统设计

摘要联邦学习是一种分布式的机器学习方法，可以对大量分散在移动设备上的数据进行训练，而在实现时，则会遇到许多问题。因此，如何设计一个系统这个问题就会自然而然产生。

MoModel·2023-01-12 06:12

论文阅读-FDA Federated Defense Against Adversarial Attacks for Cloud-Based IIoT Applications

FDA:FederatedDefenseAgainstAdversarialAttacksforCloud-BasedIIoTApplications（这里的对抗攻击都有哪儿些-基于数据Or-基于模型）IEEETransactionsonIndustrialInformatics,2020Abstract在AI与IoT技术普及下，对抗攻击激增，用于欺骗IIoT应用的深度神经网络。由于偏见的训练数据

Zwp&Zyy·2023-01-12 06:42

联邦学习论文阅读二：PRECAD

联邦学习论文阅读二：PRECADPRECAD:Privacy-PreservingandRobustFederatedLearningviaCrypto-AidedDifferentialPrivacy

一步一个脚印ッ·2023-01-12 06:09

手写数字识别之联邦学习

TFF的开发旨在促进联邦学习（FL）的开放式研究和实验，该方法是一种机器学习方法，客户共享一个全局模型并共同训练，但是客户的训练数据保留在本地。

baidu_35560935·2023-01-12 06:06

联邦学习 (FL) 中常见的3种模型聚合方法的 Tensorflow 示例

联合学习(FL)是一种出色的ML方法，它使多个设备（例如物联网(IoT)设备）或计算机能够在模型训练完成时进行协作，而无需共享它们的数据。“客户端”是FL中使用的计算机和设备，它们可以彼此完全分离并且拥有各自不同的数据，这些数据可以应用同不隐私策略，并由不同的组织拥有，并且彼此不能相互访问。使用FL，模型可以在没有数据的情况下从更广泛的数据源中学习。FL的广泛使用的领域如下：卫生保健物联网(IoT

deephub·2023-01-12 06:34

深度学习/联邦学习随笔一PyTorch基础知识

深度学习/联邦学习随笔一PyTorch基础知识Tensor（张量）PyTorch里面处理的最基本的操作对象就是Tensor，Tensor是张量的英文，表示的是一个多维的矩阵，比如零维就是一个点、一维就是向量

沉睡中的主角·2023-01-12 01:01

联邦学习FedAvg算法复现任务

本文目录1.准备工作2.分割数据集3.数据节点类4.CNN模型类5.利用FedAvg算法训练6.client训练函数7.模型评估函数8.模型训练结果附录：关键函数记录**torch.nn.Module.load_state_dict****nn.utils.clip_grad_norm_**torch.nn.Embedding1.准备工作FedAvg算法过程如下：数据集介绍：CIFAR-10是一个

梦码城·2023-01-11 19:37

基于cifar10数据集的FedAvg联邦学习任务

本文目录1.cifar10数据集介绍2.联邦学习介绍3.客户端CNN模型3.FedAvg实现运行结果出自论文《Communication-EfficientLearningofDeepNetworksfromDecentralizedData

梦码城·2023-01-11 19:36

联邦学习-FedAvg、FedAMP论文解读

文章目录联邦学习-FedAvg、FedAMP论文解读FedAvg解读解决问题算法原理实验结果优缺点FedAMP解读解决问题FedAMP算法原理HeurFedAMP算法原理实验结果优缺点联邦学习-FedAvg

‘Atlas’·2023-01-11 19:06

联邦学习(FL，Federated Learning) 之FedAvg算法

Communication-EfficientLearningofDeepNetworksfromDecentralizedData论文地址：[1602.05629]Communication-EfficientLearningofDeepNetworksfromDecentralizedData(arxiv.org)FL主要瓶颈：1.通信速率不稳定，且可能不可靠2.聚合服务器的容量有限，同时与s

bit_100·2023-01-11 19:36

联邦学习（二）：卷积神经网络通过底层 API 实现 FedAvg 联邦算法

文章目录1、导入需要的库2、导入并处理数据3、定义批次数据类型4、定义模型类型4.1得到每一层神经网络的参数形状4.2得到模型类型4.3建立模型4、定义计算一个批次损失的函数5、定义通过一个批次的损失更新网络参数的函数6、定义通过一个客户端的损失更新网络参数的函数7、定义通过所有客户端的损失更新网络参数的函数1、导入需要的库importcollectionsimportnumpyasnpimpor

cofisher·2023-01-11 19:36

【联邦学习】FedAvg 过程简介

文章目录一、FedAvg简介二、联邦训练过程参考链接一、FedAvg简介FedAvg是一种分布式框架，允许多个用户同时训练一个机器学习模型。在训练过程中并不需要上传任何私有的数据到服务器。本地用户负责训练本地数据得到本地模型，中心服务器负责加权聚合本地模型从而得到全局模型，经过多轮迭代后最终得到一个趋近于集中式机器学习结果的模型，有效地降低了传统机器学习源数据聚合带来的许多隐私风险。二、联邦训练过

想变厉害的大白菜·2023-01-11 19:06

基于 TensorFlow Federated 的 X 射线图像分类用于 COVID-19 识别

这段时间学习了联邦学习的一些知识，完成了基于TensorFlowFederated实现的X射线图像分类用于COVID-19识别的一个例子，与大家分享。

AI Medicine·2023-01-11 15:07

联邦学习 (FL) 中常见的3种模型聚合方法的 Tensorflow 示例

联合学习(FL)是一种出色的ML方法，它使多个设备（例如物联网(IoT)设备）或计算机能够在模型训练完成时进行协作，而无需共享它们的数据。“客户端”是FL中使用的计算机和设备，它们可以彼此完全分离并且拥有各自不同的数据，这些数据可以应用同不隐私策略，并由不同的组织拥有，并且彼此不能相互访问。使用FL，模型可以在没有数据的情况下从更广泛的数据源中学习。FL的广泛使用的领域如下：卫生保健物联网(IoT

·2023-01-11 11:13

mysql跨服务查询之FEDERATED存储引擎的实现

目录一、FEDERATED存储引擎1.1、说明：1.2、局限性1.3、跨服务的方式二、开启FEDERATED存储引擎1.1、查看存储引擎三、跨服务连接示例1.1、目标：1.2、创建关系1.3、成功效果1.4

·2023-01-11 05:35

论文阅读:How to Put Users in Control of their Data in Federated TopN Recommendation with Learning toRank

Author：VitoWalterAnelli,YasharDeldjoo,TommasoDiNoia,AntonioFerrara,FedelucioNarducci∗论文地址Motivation：推荐服务被大量应用在一些以用户为中心的应用程序中，它缓解信息过载和帮助用户在大量可能性中做出选择。数据所有权是一个关键问题，**因为用户可能不愿意与中央服务器共享他们的敏感偏好。**但是现存的推荐模型

aaHua_·2023-01-10 14:08

纵向联邦线性回归实现-Federated Machine Learning Concept and Applications论文复现

本实验的算法实现思路来自这篇论文FederatedMachineLearningConceptandApplications文章目录场景介绍同态加密算法python的phe库实现了加法同态加密角色1角色2传统的线性回归纵向联邦线性回归纵向联邦线性回归代码实现导入工具包准备数据使用普通线性回归训练搭建训练过程纵向联邦线性回归实现垂直切分数据集客户端父类实现客户端A类实现客户端B类实现调度发C类实现搭

fun. 逗~·2023-01-10 14:56

【一种数据异构的FL迁移学习框架】Privacy-preserving Heterogeneous Federated Transfer Learning

原文：Privacy-preservingHeterogeneousFederatedTransferLearning本文讲了数据异构（区别于模型结构异构）下的FL训练框架，此外还有隐私保护的作用。这里的数据异构是指不同的featurespaces，因此本文使用了迁移学习进行解决。数据异构heterogeneousdata数据异构有两种情况：homogeneousfeaturespaceorhet

学渣渣渣渣渣·2023-01-10 11:41

联邦学习——用data-free知识蒸馏处理Non-IID

《Data-FreeKnowledgeDistillationforHeterogeneousFederatedLearning》ICML2021最近出现了利用知识蒸馏来解决FL中的用户异构性问题的想法，具体是通过使用来自异构用户的聚合知识来优化全局模型，而不是直接聚合用户的模型参数。然而，这种方法依赖于proxydataset，如果没有这proxydataset，该方法便是不切实际的。此外，集成

联邦学习小白·2023-01-10 11:41

FedMD: Heterogenous Federated Learning via Model Distillation论文笔记

本文提出使用迁移学习和知识蒸馏开发了一个联邦学习框架FedMD，此框架允许不同的客户端根据其计算能力设计不同的网络结构，并且保护数据集的隐私安全和模型的隐私安全条件下联合训练出一个模型。

Zoran_卓·2023-01-10 11:41

数据不动模型动-联邦学习的通俗理解与概述

关注公众号，发现CV技术之美联邦学习是一种机器学习设定，其中许多客户端（例如：移动设备或整个组织）在中央服务器（例如：服务提供商）的协调下共同训练模型，同时保持训练数据的去中心化及分散性。

我爱计算机视觉·2023-01-10 11:40

《Preservation of the Global Knowledge by Not-True Self Knowledge Distillation in Federated Learning》

《PreservationoftheGlobalKnowledgebyNot-TrueSelfKnowledgeDistillationinFederatedLearning》Abstract1⃣️FederatedLearning’sconvergencesuffersfromdataheterogeneity.2⃣️forgettingcouldbethebottleneckofglobalc

旅行者tru-th·2023-01-10 11:40

【论文阅读】Device Sampling for Heterogeneous Federated Learning: Theory, Algorithms, and Implementation

异构联邦学习的设备采样:理论，算法，实现一、文章介绍二、背景和目的三、建模1、边缘设备模型2、网络拓扑3、联邦学习模型4、建模总结四、方法1、数据分流2、设备采样（1）核心思想（2）GCN训练过程3、联邦学习训练过程五

九九喵99·2023-01-10 11:40

论文阅读笔记--Federated Continual Learning with Weighted Inter-client Transfer

本文提出了一种新的场景，联邦学习（FL）的每个client各自执行一系列的持续学习（ContinualLearning）任务，为了说明这个场景的实际意义，文章给出了这样一个场景：若干个医院要通过一个联邦学习框架交流自己的知识

Shawn2134123·2023-01-10 11:10

论文阅读笔记--Data-Free Knowledge Distillation for Heterogeneous Federated Learning（FEDGEN）

链接：https://arxiv.org/abs/2105.10056v2这篇文章发表在ICML2021，讲的是如何解决联邦学习中的数据异构问题。

Shawn2134123·2023-01-10 11:09

隐私计算--35--联邦学习安全防御之同态加密

一、Paillier半同态加密算法同态加密又可以分为全同态加密、些许同态加密和半同态加密三种形式。这其中，由于受到性能等因素的约束，当前在工业界主要使用半同态加密算法。Paillier即属于半同态加密算法，其并不满足乘法同态运算，虽然Paillier算法不是全同态加密的，但是与全同态加密算法（FHE）相比，其计算效率大大提升，因此在工业界被广泛应用。我们以x表示明文，以[[x]]表示其对应的密文，

武天旭·2023-01-09 15:47

转载-联邦学习 - 基础知识+白皮书+杨强教授讲座总结+同态加密+ 差分隐私

原文链接：https://blog.csdn.net/qq_41409438/article/details/102213895联邦学习兴起原因概念分类横向联邦学习纵向联邦学习联邦迁移学习优势系统架构联邦学习与现有研究的区别联邦学习与差分隐私理论的区别联邦学习与分布式机器学习的区别联邦学习与联邦数据库的关系联邦学习的最新发展及应用

nanoleak coding·2023-01-09 15:45

纵向联邦学习原理介绍——LR,XGBoost,SplitNN

这是我的学习笔记，若有不足和错误之处，欢迎交流和指正，谢谢！联系方式：[email protected]文章目录1.Introduction2.Preliminaries2.1VFL加密方法2.2VFL平台3.VFL逻辑回归4.VFLXGBoost4.1XGBoost4.2SecureBoost5.SplitNN5.1Pipeline5.2Aggregation推荐阅读：[1]LabelInferenc

lrchang·2023-01-09 15:45

联邦学习在保护隐私方面的三大技术

联邦学习在保护隐私方面的三大技术联邦学习在保护隐私方面的三大技术：差分隐私（DifferentialPrivacy）、同态加密（HomomorphicEncryption）、隐私保护集合交集（PrivateSetIntersection

学而时习之！！·2023-01-09 15:14

同态加密与联邦学习

联邦学习通过加密机制下的参数交换方式保护用户数据隐私，加密手段包括同态加密等。

一直在路上ing·2023-01-09 15:44

【联邦学习实战】基于同态加密和差分隐私混合加密机制的FedAvg

联邦学习实战——基于同态加密和差分隐私混合加密机制的FedAvg前言1.FedAvg1.1getData.py1.2Models.py1.3client.py1.4server.py1.5性能评估1.5.1Non-IID

HERODING23·2023-01-09 15:43

【联邦学习邂逅密码学系列】基于同态加密算法python代码实现

联系方式：[email protected]前言联邦学习是一种参与方之间联合隐私训练的新范式，受到学术界和工业界的关注。

lrchang·2023-01-09 15:43

推荐频道

Federated联邦学习

第十九周工作进展报告 Local Differential Privacy for Deep Learning

【论文导读】- SpreadGNN: Serverless Multi-task Federated Learning for Graph Neural Networks（去服务器的多任务图联邦学习）

联邦学习相关论文阅读

联邦学习知识学习

【MindSpore】云云联邦学习+Fasterrcnn目标检测+差分隐私训练保护隐私方案综合实现

隐私计算学习笔记

现有网络模型的使用和修改

划分非独立同分布（Non-IID）数据集

群体智能中的联邦学习算法综述---简笔记（除安全类）

FedBN总结

【联邦学习论文阅读】常用算法理解（SCAFFOLD、FedPD、FedBN）-目前仅SCAFFOLD

联邦学习开坑！

怎么实现联邦学习中的Non-IID？

联邦学习中的non-iid总结

百度安全入选权威报告《联邦学习与可信AI市场机会分析》典型厂商

创投更重点关注技术、场景“两手抓”的科技企业

ECCV 2022 | FedX: 在无监督联邦学习中进行知识蒸馏

想详细了解风头正劲的联邦学习吗？这篇最强综述论文满足你

【技术博客】面向大规模的联邦学习：系统设计

论文阅读-FDA Federated Defense Against Adversarial Attacks for Cloud-Based IIoT Applications

联邦学习论文阅读二：PRECAD

手写数字识别之联邦学习

联邦学习 (FL) 中常见的3种模型聚合方法的 Tensorflow 示例

深度学习/联邦学习随笔一PyTorch基础知识

联邦学习FedAvg算法复现任务

基于cifar10数据集的FedAvg联邦学习任务

联邦学习-FedAvg、FedAMP论文解读

联邦学习(FL，Federated Learning) 之FedAvg算法

联邦学习（二）：卷积神经网络通过底层 API 实现 FedAvg 联邦算法

【联邦学习】FedAvg 过程简介

基于 TensorFlow Federated 的 X 射线图像分类用于 COVID-19 识别

联邦学习 (FL) 中常见的3种模型聚合方法的 Tensorflow 示例

mysql跨服务查询之FEDERATED存储引擎的实现

论文阅读:How to Put Users in Control of their Data in Federated TopN Recommendation with Learning toRank

纵向联邦线性回归实现-Federated Machine Learning Concept and Applications论文复现

【一种数据异构的FL迁移学习框架】Privacy-preserving Heterogeneous Federated Transfer Learning

联邦学习——用data-free知识蒸馏处理Non-IID

FedMD: Heterogenous Federated Learning via Model Distillation论文笔记

数据不动模型动-联邦学习的通俗理解与概述

《Preservation of the Global Knowledge by Not-True Self Knowledge Distillation in Federated Learning》

【论文阅读】Device Sampling for Heterogeneous Federated Learning: Theory, Algorithms, and Implementation

论文阅读笔记--Federated Continual Learning with Weighted Inter-client Transfer

论文阅读笔记--Data-Free Knowledge Distillation for Heterogeneous Federated Learning（FEDGEN）

隐私计算--35--联邦学习安全防御之同态加密

转载-联邦学习 - 基础知识+白皮书+杨强教授讲座总结+同态加密+ 差分隐私

纵向联邦学习原理介绍——LR,XGBoost,SplitNN

联邦学习在保护隐私方面的三大技术

同态加密与联邦学习

【联邦学习实战】基于同态加密和差分隐私混合加密机制的FedAvg

【联邦学习邂逅密码学系列】基于同态加密算法python代码实现