【论文理解】FedSky: An Efficient and Privacy-Preserving Scheme for Federated Mobile Crowdsensing

这篇论文同样是来自陆老师组的，发表在IEEE INTERNET OF THINGS JOURNAL上的一篇关于联邦学习、同态加密的文章。

论文背景

在过去的几年里，移动通信和物联网的爆炸性发展带来了一种新的传感方法范式，称为 移动群智感知 （MCS）。从本质上讲，移动用户的人群，即工人，被MCS平台招募，将他们的传感数据外包给某些任务，如环境监测[、交通密度评估、城市规划、位置导航[和医疗保健供应。然而，工人在执行传感任务时，不可避免地要向平台分享他们的传感信息（如日常轨迹、实时位置和周围环境）。信息泄露可能导致严重的隐私问题。例如，攻击者可以通过分析工人的传感数据来推断其日常行为。因此，保护工人的敏感信息不被泄露是MCS应用的主要挑战之一。
在这里先介绍下群智感知（Crowd Sensing）

群智感知（Crowd Sensing）

群智感知（Crowd Sensing）一开始来源于众包的概念，科技公司将项目工作以自由意愿的形式分配给非特定的社会大众，一种分布式协作。而群智感知（Crowd Sensing） 指大规模的普通用户通过其自身携带的智能移动设备来采集感知数据并上传到服务器，服务提供商对感知数据进行记录处理，最终完成感知任务并利用收集的数据给用户提供日常所需服务的过程。近些年随着各种移动设备和可穿戴设备的普及利用这些传感设备收集的数据可以分析提取许多有用信息。移动的可穿戴的传感器可以有效的收集数据而没有维护成本高覆盖范围有限等问题。如今群智感知在环境污染监测、环境噪声地图、城市交通路况、社交网络与医疗保健等方面都已经得到了应用，在可预见的未来它将会应用到更多的业务场景中。
移动群智感知系统一般会由多个移动用户，任务发起者，云端感知平台组成，任务发起者向云端提交任务需求，感知平台向用户发布任务，移动用户携带智能设备执行任务并上传数据获得相应报酬，感知平台处理数据提供计算服务。整个过程主要设计如下几个研究方向：收集、用户招募、任务分配、隐私保护、数据质量和激励机制

F-MCS

到目前为止，已经有大量的、不断增长的文献被研究用来解决MCS中的隐私挑战。在所有的研究中，联合学习（FL）可以被认为是一个潜在的和实用的解决方案。在联合学习中，平台反复选择随机工人来下载一个可训练的模型。
FL的分布式性质使工作者能够优化共享模型，同时将所有训练数据保存在本地，从而确保他们的隐私。FL可以大致分为跨主机FL和跨设备FL。在跨主机FL中，工作者是具有丰富计算资源的职能机构（例如，金融机构）。

训练好的模型被专门发布给这些组织，但不包括FL聚合平台。相反，在跨设备FL中，工作者是计算能力有限的异质移动用户。FL平台最终将获得训练好的模型。

在这篇文章中，通过将跨设备FL引入MCS，我们提出了一个新的传感场景，称为联合MCS（F-MCS）。F-MCS允许工人建立一个强大而安全的机器学习模型，而不需要分享他们的感应数据。

因此，F-MCS可以解决传统MCS系统中工人信息泄露的关键问题，并有望成为移动传感服务的一个新热点。

尽管如此，如果我们简单地将FL技术与MCS服务相结合，仍然存在两个主要问题。
(1) 在F-MCS中选择稳定的工作者是一个挑战。这里的工作者拥有的搜集、上传数据的可携带式设备工作充满了不稳定性。这些设备硬件条件、网络连接（3G、4G、5G、Wi-Fi和信号强度），电源状态（续航时间），因为分布式训练在顺利进行下一轮训练之前就需要所有的workers的数据被正确上传，意思是受设备影响导致workers之间出现时间上的不协同，会影响后续的聚合步骤。
（2）跨设备的F-MCS平台缺乏实用的隐私保护解决方案。F-MCS是一个跨设备的FL系统，最终的模型将被发布到F-MCS平台，用于某些实时服务。因此，现有的方法不能应用于F-MCS。现在急需为F-MCS的应用设计实用的、保护隐私的解决方案

本文的主要贡献

在这篇文章中，为了解决上述挑战，我们提出了一种新型的、安全的F-MCS应用的数据聚合方案，称为FedSky。通过扩展经典的FedAvg算法，FedSky的特点是采用群体天际线（G-skyline）来选择合格的workers和同态加密来安全地聚合数据。具体来说，本文的主要贡献有以下三点：
（1）我们在FedSky中为F-MCS提出了一种新颖而有效的工人选择机制。具体来说，在每一轮通信中，我们不是随机选择一组工人，而是根据工人的本地数据大小和他们的移动设备的计算能力来选择一个工人的天际线组。这样一来，与传统的FedAvg算法相比，我们的方法可以大大减少工人的计算时间和平台的等待时间，因此，大大地提高了FL过程的效率。
(2)我们为F-MCS平台提出了一种基于HE(t同态加密)技术的新型隐私保护数据聚合方案。该方案是为跨设备的FL设置而设计的，这样，最终的全局模型可以被F-MCS平台访问。此外，整个训练过程不需要所选工人之间的互动。除了左邻的ID和右邻的ID，每个被选中的工人对其他工人的信息一无所知。
（3）我们建立了一个定制的模拟器来进行性能评估。
广泛的实验结果验证了所提方案的有效性和效率。特别是，通过引入一个新的工人选择机制和一个保护隐私的数据聚合协议，我们可以在不影响其准确性的情况下大大提高FL过程的效率。

模型与设计目标

系统模型

场景考虑一个比较典型的F-MCS场景，包括三个实体：一个可信的密钥生成生成器$\mathcal{T}\mathcal{K}\mathcal{G}$，一个$F-MCS$平台和一组异质工人$\mathcal{W}=\{w_1,w_2,w_3....\}$.
(1)$\mathcal{T}\mathcal{K}\mathcal{G}$:一个受信任的权威机构，它生成并向相应的实体分发适当的密钥，从而使某项F-MCS任务能够合作完成。
(2)$F-MCS$平台$P$:$P$是提供F-MCS服务的可信平台，负责执行F-MCS任务，包括注册工人、初始化任务模型、选择工人和训练模型。更具体地说，在注册时，$P$给每个注册的工人$W_i$分配一个唯一的标识$I{D}_{wi}$。然后将工人的识别码广播给$\mathcal{T}\mathcal{K}\mathcal{G}$。在训练的过程中，$P$首先会初始化全局模型，然后从$\mathcal{W}=\{w_1,w_2,w_3....\}$选择一部分合格的员工（具体怎么选参考后文），$P$将模型分发给选定的工人，并在每轮训练中通过汇总工人提供的模型参数来训练模型。为了实现最终的全局模型，需要P和选定的工人之间进行多轮互动。
(3) 参与的工作者： $\mathcal{W}=\{w_1,w_2,w_3....\}$，$\mathcal{W}$是希望进行某项F-MCS任务的参与工作者。如果$\mathcal{W}$中的工人被P选中，首先，他/她需要用他/她的移动设备收集原始感应数据。在收到全局模型后，每个被选中的工人需要通过用他/她的本地数据训练模型来更新模型参数，加密模型参数，并与P交换密文。为了在每轮训练中被选中，工作者需要定期向P发送他们当前的训练能力和计算状态，例如，本地数据集的大小，他们的移动设备的当前CPU份额/电池/内存。

安全模型

首先，我们认为$\mathcal{P}$和$\mathcal{T}\mathcal{K}\mathcal{G}$是完全可信的。值得注意的是，一些恶意软件已经被对手$\mathcal{A}$安装在$\mathcal{P}$中而没有被发现。因此，$\mathcal{A}$可以监视$\mathcal{P}$的数据库，并窃听$\mathcal{P}$和$\mathcal{W}$之间的通信信息。基本上，$\mathcal{A}$对每个工人上传至平台的模型更新感兴趣。通过这些更新，$\mathcal{A}$可以推断出工人的实时空间-时间信息。
工人$\mathcal{W}$是诚实而好奇的。
因此，所有工人都严格遵守设计的更新、加密和上传模型参数的协议，但可能对其他工人的数据资源感兴趣。此外，我们假设$\mathcal{W}$的工人之间没有串通，工人也不能与$\mathcal{P}$串通。外部攻击者可能利用F-MCS平台的其他漏洞。由于这项工作的重点是隐私保护，这些攻击超出了本文的范围，将在我们未来的工作中讨论。

设计目标

（1）效率：提出的FedSky方案在训练模型和在每轮通信中上传加密的模型参数方面应该是高效的。因此，与传统的FedAvg算法相比，在我们的方案中，P的等待时间应该缩短，整体的FL训练效率应该得到提高。
（2）隐私保护：我们计划设计一个保护隐私的F-MCS框架，它可以防止工人敏感信息的保密性被泄露。更具体地说，对于∀$w_i$，${\mathcal{D}}_i$表示$w_i$的本地数据，$x_i$表示$w_i$在每轮训练后更新的模型参数，${\mathcal{D}}_i$和xi都应该对其他工人保密。此外，即使$\mathcal{A}$窃听了$\mathcal{P}$的数据库并窃取了$w$和$\mathcal{P}$之间的通信数据，它仍然无法识别每个工作者的上传模型参数$x_i$。

PRELIMINARIES

A. FedAvg Algorithm

联邦平均算法用于FL中深度学习和机器学习模型。在传统FL中有两种传统的实体：
1)数据聚合器
2)$K$个参与的工作者$\{w_1,w_2,...，w_k\}$
令$N_i$表示工作者$W_i$拥有的数据集的数量,算法步骤如下：
1、FedAvg算法中每次在$t$轮开始时都会从$K$个工人中随机选择，$k$个参与者，将在$t$轮的的模型$x^t$广播给每个参与者。
2、在接受到当前模型时候，工作者$w_i$ 都会在本地数据集上计算平均梯度。这个记为$g_i$
3、给定一个固定的学习率$\eta$,$w_i$计算：
$x_i\leftarrow x^t-\eta \cdot g_i$
4、上传$x_i$到数据聚合器
5、最后数据聚合器根据下列算式更新全局模型：
$x^{t+1}\leftarrow {\sum }_{i=1}^k(N_i/N)x_i其中N=N_1+N_2+....N_k$
具体算法细节如下图所示

B. Different Variants of Skyline Queries

不同的天际线查询 ,这使用MCS的工作者来举例说明几种不同的skyline：
skyline , G-skyline , and Constrained skyline
(C-skyline) （约束天际线） 然后提出一种新颖的skyline变体——CG-skyline ：这个可以检索对数据具有特定尺寸限制的天际线组。

定义一： $(skyline)$ : $K$ 个参与的工作者： $\mathcal{W}=\{w_1,w_2,...，w_k\}$ 每个工作者都可以被表示为d维的数据点,
$wi=(w_i[1],w_i[2]...w_i[d]，i\in [1,K])$, 假设都是优先选择每个维度的最大值。 定义一种主导(dominated)关系（$w_a\prec w_b$）如下: 对于$\mathcal{W}$ 中的俩个不同的工作者$w_a$,$w_b$（a≠b） 对于所有的维度$j\in [1,d]$ 都有$w_{a[j]}\ge w_{b[j]}$ 且至少存在一个维度使得$w_{a[j]}＞w_{b[j]}$，定义相等的关系，对于所有的维度都有，$w_{a[j]}=w_{b[j]}$
举例如下：

可以这样理解靠近坐标右上角的点是最好的点。
$w_1,w_3,w_4,w_5$和$w_6$是skyline的工作者。
定义二 $k-PointG-Skyline$: 给定一系列工作者$\mathcal{W}$
有两组数量为k的工人组$G=\{w_1,w_2,...，w_k\}$,然后$G^{\prime }=\{w_1^{\prime },w_2^{\prime },...，w_k^{\prime }\}$ ,k≤$K$ 且 $G和G‘都是\in \mathcal{W}$
,定义一种 g-domaintes ($w_a{\prec }_g{w}_b$) ： 在两个工人组中找到k个点的排列，$G=\{w_{u1},w_{22},...，w_{uk}\}$，$G^{\prime }=\{w_{v1}^{\prime },w_{v2}^{\prime },...，w_{vk}^{\prime }\}$ 满足 所有的维度都有$w_{ui}⪯w_{vi}^{\prime }$ 至少存在一个维度使得$w_{ui}\prec w_{vi}^{\prime }$ 这样就找出了k-point G-skyline 的组 这里的工作者不能由其他相同大小的组主导，举例如下;

注意：这里定义的符号$\prec$ 是一种主导关系 ，具体到数值上其实是大于的关系，图像上显示实在右上角位置
定义三：（C-skyline）: 给定一系列d-维度的工作者$\mathcal{W}$
令$\mathcal{C}=\{Co{n}_1,Co{n}_2,...Co{n}_d,\}$ 表示d维度的一些限制。$Co{n}_i$ 表示的是一个属于一个维度的限制范围$[mi{n}_i,ma{x}_i]$，或者是空集$\varnothing$ ,这样所有的限制$\mathcal{C}$会在d维度的空闲内形成一个约束空间 可以理解是普通的skyline上加上约束之后的点
定义四 (k-Point CG-Skyline，本文提出的新的skyline) 给定一系列d-维的工作者$\mathcal{W}$,和一系列限制$\mathcal{C}$ , k-point CG-skyline 的点是由约束空间中的所有的拥有k个工作者且不会被别的组 g-dominated的所有组。
举个例子： 还是在上图中 令$\mathcal{C}=\{Con1,Con2\}$ 其中$Co{n}_1=[1,5],Co{n}_2=[1,7]$ 那么图上的蓝色区域就是约束空间，那么对于定义三种C-skyline就是$\{w_3,w_4，w_5\}$ 其中组$G=\{w_1,w_4，w_5\}$ 是一个 3-point G-skyline 而不是一个 3-point CG-skyline 。

C.Bilinear Pairing

这部分内容就是双线性配对，就不展开讲述 可以参考 网络上的一些博文：

D.Paillier Cryptosystem

Paillier 同态加密也不做详述

要注意在Paillier密码系统中，两个密文的乘积可以解密为它们对应的明文之和，即：
$D(sk,E（pk,m_1）\cdot E(pk,m2)mod{n}^2)=m_1+m_{2}modn$

提出的方案

这一节会提出一个新颖的针对F-MCS -联合移动群智感知的数据聚合方案，称作FedSky 主要由三部分组成：
密钥分发（KeyDist）
工作者选择(WorkSel)
数据聚合（DataAgg）

A.KeyDist $Phase$

首先$\mathcal{T}\mathcal{K}\mathcal{G}$运行 $KeyGen(k)$ 生成参数$(p,q,n,\lambda ,\mu )$,生成公钥$p{k}_p=(n,g)$ 和私钥 $s{k}_p=(\lambda ,\mu )$ 然后 $\mathcal{T}\mathcal{K}\mathcal{G}$ 会选择统一的加密哈希函数 $H_1$, $H_1:\{0,1{\}}^{\ast }\to {\mathbb{Z}}_{n^2}$ 和一个双线性隐射 $e:\mathbb{G}\times \mathbb{G}\to {\mathbb{G}}_T$。然后 $\mathcal{T}\mathcal{K}\mathcal{G}$ 会将$(p{k}_p,H_1,e:\mathbb{G}\times \mathbb{G})$ 广播给$P$和系统中的所有工作者，然后安全的将 $s{k}_p$ 发送给$P$（F-MCS 平台）
接下来$\mathcal{T}\mathcal{K}\mathcal{G}$会选择另一个加密的哈希函数$H_2$,$H_2:\{0,1{\}}^{\ast }\to {\mathbb{Z}}_n$ $\mathcal{T}\mathcal{K}\mathcal{G}$选择一个随机数 $S\in {\mathbb{Z}}_n^{\ast }$,作为一个钥匙，同时对$W$中的每一个工作者$w_i$都给予一个标识 $I{D}_{w_i}$ 其中$I{D}_{w_i}=H_0(w_i)H_0:\{0,1{\}}^{\ast }\to \mathbb{G}$ ,$\mathcal{T}\mathcal{K}\mathcal{G}$ 会计算$I{D}_{w_i}^S$ 并将这个安全的发送给 $w_i$ ，将哈希函数$H_2$发送给所有工作者

B. WorkSel $Phase$

在本文的模型中。所有的工作者$wi$都具备两种属性
(1)本地的数据集大小$N_i$
(2)移动设备的计算能力大小$P_i$ ，$P_i$表示在F-MCS任务中每分钟可以处理多少任务， $wi$需要定期的将$N_i$和$P_i$ 发送给平台 $P$ 在选择工作者之前，平台$P$ 会根据F-MCS 任务的要求定义一些二维的限制 $\mathcal{C}=\{Co{n}_1，Co{n}_2\}$ 对于更高的要求 限制应该也是更加严格一点。$Co{n}_1=[mi{n}_1,ma{x}_1]$,$Co{n}_2=[mi{n}_2,ma{x}_2]$, 我们认为如果$mi{n}_1>mi{n}_2$且$ma{x}_1>ma{x}_2$那么 $Co{n}_1$ 是比$Co{n}_2$更加严格的。 接着平台$P$ 会选择一系列符合这些限制的工作者${\mathcal{W}}^{\prime }$ ,在每轮训练前$P$都会从${\mathcal{W}}^{\prime }$种 由$N_i$和$P_i$ 两个属性的CG-skyline 选择最佳的k个工作者，具体的方法如下：
首先对于每个工作者$wi$,$P$ 会计算$Sum(w_i)=N_i+P_i$，根据这个$Sum(i)$ 所有的工作者都会被添加进一个最大值优先队列 $Q_W$ ,即降序排列，值越大的越先从队列种删去。这里注意$P_i$和$N_i$ 应该在同一水平(即数值上是在相近的范围内，不会出现某个属性主导的情况) ，由上述章节的描述有以下两个定理:
Theorem 1: 如果$w_i$是第一个被$Q_W$移除的工作者那么$w_i$就是一个符合skyline 的工作者
Theorem 2: 对于所有的$w_j\in {\mathcal{W}}^{\prime }$ 能主导$w_j$的一定是比$w_j$先移出$Q_W$的
算法执行如下：
首先$P$ 会初始化另一个空的最大优先队列$Q_{non}$,和一个空的列表$Q_{sky}$ $P$ 会遍历$Q_W$队列，根据上述的定理，第一个工作者$w_i$ 会被直接加入$Q_{sky}$，然后接下来的$Q_W$中的第一个工作者，去跟$Q_{sky}$中的所有工作者比较，如果都没被$Q_{sky}$中的工作者所主导那么就加入到$Q_{sky}$中，否则就添加入$Q_{non}$。 $P$重复执行上述步骤直到$Q_{sky}$中的数量为k或者$Q_W$队列为空。最后还会进行一个判断，如果最终$Q_{sky}$中的数量少于k个，那么会从$Q_{non}$选出少的个数的工作者加入到$Q_{sky}$，这一部分的理解是即使是某些工作者的计算能力或者数据集不够，还是需要保证有k个参与者。
举例如下

值得注意的是，所提出的CG-skyline技术只能选择一组G-skyline工人。
在选择工人后，MCS平台$P$将全局模型的超参数(如学习速率)广播给所有被选择的工人，工人可以使用这些超参数进行下一步的模型训练和优化.

C.DataAgg $Phase$

${\mathcal{W}}_s$ 是一个组中k个被挑选的工作者，例如 ${\mathcal{W}}_s=\{w_1,w_2,...,w_k\}$ 在每一轮开始前 $P$ 都会计算$y_i=Ni/(N_1+N_2+\dots N_k)$ 作为 $w_i$的模型参数 ，$y_i$会保留三位小数，$P$会对$y_i$ 进行放大1000倍的操作，具体的DataAgg 操作如下：

1. $P$ 将来自${\mathcal{W}}_s$ 中的k个工人放入一个循环中，排列如下图，注意$w_i$ 的邻居下标，以及$w_1$的左边是$w_k$:
   
2. $P$ 产生一个随机数 ${\alpha }_i\in {\mathbb{Z}}_n^{\ast }$ $P$将如下信息发送给每个工作者$w_i$:
   
   这里的$i\to l$ 和$i\to r$ 表示$w_i$的左邻居和右邻居,$t$当前训练的轮次，因此值都会随着每轮的变化而变化.
3. 接收到信息之后$w_i$ 会根据本地数据集计算本地梯度$g_i$
   根据固定的学习率，会计算本地的模型参数 $x_i\leftarrow x^t-\eta \cdot g_i$ ，为了尽可能的保持原始信息，将$xi$ 保留 到小数点后八位，在每轮训练完之后$w_i$都会计算$\overline{x_i}=10^8\cdot x_i$
4. 接下来$w_i$会计算${\bar{C}}_i$和三个$key$ , 左会话密钥$S_{(i,i\to l)}$,右会话密钥$S_{(i,i\to r)}$, 处理密钥$S_{i}p$:
   
   接着$w_i$会计算一个${\pi }_i$ 发送给$P$:
   
5. $P$首先会检查是否存在$w_i$ 没有提交${\pi }_i$ 如果有那么$P$会终止协议然后开始新的训练回合。如果所有的$w_i$ 都提交了他们的${\pi }_i，P$会计算：$\theta ={\prod }_{i=1}^k{\pi }_i$ mod n²
   计算如下：
   
   令$\bar{m}={\sum }_{i=1}^k{\bar{x}}_i\cdot y_i$ $P$ 可以通过$D(sk,c)$ 进行过解密获得$\bar{m}$:
   
   正确性验证：
   考虑给定的$W_i$ 对于所有$k$个工作者，处理密钥的求和形式为${\prod }_{i=1}^{k}Sip=S_{1p}+S_{2p}+S_{3p}+...S_{kp}=S_{(1,k)}-S_{(2,1)}-S_{(2,3)}+...+S_{(k,k-1)}-S_{(k,1)}$ 由双线性映射的性质我们可以得到${\sum }_{i=1}^{k}Sip=0$ 所以：
   
   在这里可以将$H_1(t{)}^{{\sum }_{i=1}^k\overline{x_i}\cdot y_i+\gamma }$ 看作一个随机数那么，上述的式子就是一个Paillier 密文$\theta =g^{\bar{m}}\cdot r^n$ 可以通过$D(sk,c)$解密。恢复明文如下：
   
   这里对原文中说： $\bar{m}可以是正的（<n/2）也可以是负的(>n/2)$ 有点不太理解

恢复$m$后，$P$可以更新轮$t+1$ 轮 ：$x^{t+1}\leftarrow {\sum }_{i=1}^k(N_i/N)x_i=m$
$P$将开始下一轮训练，重复上述所有步骤，直到全局模型达到预期性能。

总结

在本文中，我们为F-MCS应用程序提出了一个隐私保护方案，称为FedSky。FedSky通过扩展经典的FedAvg算法，基于CG-skyline技术选择合格的工作者，并安全聚合模型更新来训练全局模型。特别地，与FedAvg相比，我们的方案考虑了工人的动态性和异质性。该方法可以显著提高F-MCS模型训练过程的效率。在此基础上，设计了一种新的隐私保护数据聚合协议。该协议专为跨设备FL设置而设计，在模型训练过程中不需要操作者之间的交互。安全性分析表明，该方案保护了隐私。在一个真实的图像分类任务上进行了大量的实验。比较结果验证了工人选择的效率和FedSky对异质工人的鲁棒性。为了将来的工作，我们将在现实世界的物体检测问题中扩展FedSky。

参考

1、群智感知 https://www.jianshu.com/p/3d250028bd61