联邦学习-区块链论文笔记：FLchain: Federated Learning via MEC-enabled Blockchain Network

链接：IEEE Xplore Full-Text PDF:

作者：Umer Majeed（韩国庆熙大学团队） 又是韩国大学的团队，还挺好奇当时他们是怎么抓住这个风口的。

Motivation：

1）传统的联邦学习完全依赖于中央服务器的可靠性，来存储和计算全局模型的更新。

Idea：

• 亮点1-Channel：将peers隔离开，分成小的“区域”，每一小“区域”属于同一个channel。只有在同一个channel中的peers才有权在channel内读取、提交、验证事务。每个channel有单独的分类帐本，单独的共识。在FLchain中，对于每个全局模型，都会创建一个带有genesis块（用于存储该channel的分类账）的新channel。genesis块存储全局模型的初始权重、权重的维数、超参数；
• 亮点2-Global Model State Trie：类似于用于追踪账户状态的“Account StateTrie”。作者提出的“Global Model State Trie”用来追踪FLchain中全局模型的权重。每一个channel都有它自己的“Merkle Patricia tree”形式的trie。Global Model State Trie将权值存储在键值对中，其中“key”为权重位置（下表表权重的索引），“value”是权重系数。达成共识之后，trie为全局学习模型提供更新后的权重系数。

FLchain结构图

• 每个本地节点上传的模型参数（w, b）是用公钥私钥加密传播的；
• 亮点3-Transaction pool：设备提交的交易被累积在交易池（实际是一个mempool）中，直到时间达到该channel的  （每个全局模型迭代内存池中交易的累计时间），达到  后，边缘节点会转发给区块链。区块链网络的每个节点都有特定自己的channel-specific mempool。有些交易会由于网络延迟等原因而“迟到”，这些“迟到”的交易要被丢弃，而不能用于下一次全局模型更新的计算。

Evaluation：优点如下

• FLchain为学习每个全局模型提供一个单独的channel，用于存储属于该channel的本地模型更新的共识和分类帐本；
• 全局模型trie也是基于每个channel维护的，它可以安全地将全局模型权重存储在Merkle Patricia Tree中，并且它还可以进行溯源；
• 在FLchain中，全局模型更新有区块链网络进行计算、验证、存储，代替了中心服务器，它比传统地FL更健壮。

Thoughts：

1）优化方向：延迟速度（latency）、计算需求、存储需求；

2）奖惩制度可以优化，本文没有过多提及

---

插播一点广告，如果也有做联邦学习+区块链，或者是隐私保护计算这块，热烈欢迎交流！！！