《Is dataset condensation a silver bullet for healthcare data sharing?》

一篇数据浓缩在医疗数据集应用中的论文。
其实就是在医疗数据集上使用了data condensation的方法,这里使用了DM的方式,并且新增了浓缩时候使用不同的网络。

1. 方法

数据浓缩DC的目的是:
E x ∼ P D [ L ( φ θ O ( x ) , y ) ] ≃ E x ∼ P D [ L ( φ θ c ( x ) , y ) ] \mathbb{E}_{\mathbf{x} \sim P_{\mathcal{D}}}\left[\mathrm{L}\left(\varphi_{\boldsymbol{\theta}^{\mathcal{O}}}(\mathbf{x}), y\right)\right] \simeq \mathbb{E}_{\mathbf{x} \sim P_{\mathcal{D}}}\left[\mathrm{L}\left(\varphi_{\boldsymbol{\theta}^{\mathcal{c}}}(\mathbf{x}), y\right)\right] ExPD[L(φθO(x),y)]ExPD[L(φθc(x),y)]
对于数据x,在原始数据 O \mathcal{O} O和生成数据 c \mathcal{c} c上训练得到的模型要有接近的模型效果。
作者用DM来实现数据浓缩,并且选择随机的模型,随机的参数(作者说在DM中,只选择了一个模型的而不同参数训练,这里使用不同模型不同参数更能保护隐私)
min ⁡ C E ϕ μ k k ∼ Φ , μ k ∼ P μ k ∥ 1 ∣ O ∣ ∑ i = 1 ∣ O ∣ ϕ μ k k ( x i ) − 1 ∣ C ∣ ∑ j = 1 ∣ C ∣ ϕ μ k k ( c j ) ∥ 2 \min _{\mathcal{C}} \mathbb{E}_{\phi_{\boldsymbol{\mu}_k}^k \sim \Phi, \boldsymbol{\mu}_k \sim P_{\boldsymbol{\mu}_k}}\left\|\frac{1}{|\mathcal{O}|} \sum_{i=1}^{|\mathcal{O}|} \phi_{\boldsymbol{\mu}_k}^k\left(\mathbf{x}_i\right)-\frac{1}{|\mathcal{C}|} \sum_{j=1}^{|\mathcal{C}|} \phi_{\boldsymbol{\mu}_k}^k\left(\mathbf{c}_j\right)\right\|^2 CminEϕμkkΦ,μkPμk O1i=1Oϕμkk(xi)C1j=1Cϕμkk(cj) 2

2. 结果:

《Is dataset condensation a silver bullet for healthcare data sharing?》_第1张图片

你可能感兴趣的:(联邦学习,python,人工智能)