Diffusion Model（2）：前向扩散过程和逆向降噪过程

Diffusion Model（2）：前向扩散过程和逆向降噪过程

​

​ 观看本文之前建议先观看以下文章：

• Diffusion Model（1）：预备知识

​ 在推导过程中会参考其中中的一些公式，使用到的公式都会标注出来。

​ Diffusion Models（扩散模型）包含以下三类:

• diffusion probabilistic models 扩散概率模型 Sohl-Dickstein et al., 2015
• noise-conditioned score network 噪声条件分数网络 (NCSN; Yang & Ermon, 2019)
• denoising diffusion probabilistic models去噪扩散概率模型 (DDPM; Ho et al. 2020)。

​ 本文以2020年Ho等人的DDPM为例，其包含了前向扩散过程和反向的扩散过程。

​ 其中，前向扩散过程是为了将复杂的分布转化为一个简单的分布。而反向扩散过程则是从简单分布逆转得到复杂分布。

Forward diffusion process

​ 扩散（Diffusion）在热力学中指细小颗粒从高密度区域扩散至低密度区域，在统计领域，扩散则指将复杂的分布转换为一个简单的分布的过程。

​ Diffusion模型定义了一个概率分布转换模型$\mathcal{T}$，能将原始数据$x_0$构成的复杂分布$q_{\mathrm{complex}}$转换为一个简单的已知参数的先验分布$p_{\mathrm{prior}}$：
$$\begin{array}{c}{\mathbf{x}}_0\sim q_{\mathrm{complex}}⟹\mathcal{T}({\mathbf{x}}_0)\sim p_{\mathrm{prior}}\end{array}$$
​ 具体来说，Diffusion模型提出可以用马尔科夫链(Markov Chain)来构造$\mathcal{T}$，即定义一系列条件概率分布$q({\mathbf{x}}_t|{\mathbf{x}}_{t-1})t\in \{1,2,\mathrm{3...}T\}$，将${\mathbf{x}}_0$依次转换为${\mathbf{x}}_1$，${\mathbf{x}}_2$$,...,{\mathbf{x}}_{\mathbf{T}}$，希望当$T\to \inf$时，${\mathbf{x}}_T\sim p_{\text{prior }}$。

​ 为了简洁和有效，此处的$p_{\text{prior }}$选择高斯分布,因此整个前向扩散过程可以被看作是，在$T$步内，不断添加少量的高斯噪声到样本中。
$$\begin{array}{c}\begin{array}{c}q\left({\mathbf{x}}_t|{\mathbf{x}}_{t-1}\right)=\mathcal{N}\left({\mathbf{x}}_t;\sqrt{1-{\beta }_t}{\mathbf{x}}_{t-1},{\beta }_t\mathrm{I}\right)\\ q\left({\mathbf{x}}_{1:T}|{\mathbf{x}}_0\right)={\prod }_{t=1}q\left({\mathbf{x}}_t|{\mathbf{x}}_{t-1}\right)\\ q\left({\mathbf{x}}_T\right)=p_{\text{prior }}\left({\mathbf{x}}_T\right)=\mathcal{N}\left({\mathbf{x}}_T;0,\mathrm{I}\right)\text{ where }T\to \inf \end{array}\end{array}$$
​ 即已知${\mathbf{x}}_{\mathbf{t}-1}$的时候，${\mathbf{x}}_{\mathbf{t}}$的概率分布为一个平均值为$\sqrt{1-{\beta }_t}{\mathbf{x}}_{t-1}$，方差为${\beta }_{t}I$的高斯分布。随着$T$的不断增大，最终数据分布变成了一个简单固定的高斯分布。

​ 然后对公式2使用Diffusion Model（1）：预备知识中提到的重参数化技巧（以下Diffusion Model（1）：预备知识中的公式用1-xx代替）进行重参数化可以得到：
$$\begin{array}{c}{\mathbf{x}}_t=\sqrt{1-{\beta }_t}{\mathbf{x}}_{t-1}+\sqrt{{\beta }_t}{\mathbf{z}}_{t-1}\text{ where }{\mathbf{z}}_{t-1}\in \mathcal{N}(0,\mathbf{I})\end{array}$$
​ 这一过程即将高斯分布采样的过程变成了将${\mathbf{x}}_{\mathbf{t}-1}$与标准高斯分布噪声$\mathbf{z}$混合，扩散率系数${\beta }_t$控制融合${\mathbf{x}}_{\mathbf{t}-1}$分布和标准高斯分布的比例。

​ 设${\alpha }_t=1-{\beta }_t$以及${\bar{\alpha }}_t={\prod }_{i=1}^t{\alpha }_i$，那么公式3就变成了：
$$\begin{array}{c}\begin{array}{rlr}{\mathbf{x}}_t& =\sqrt{{\alpha }_t}{\mathbf{x}}_{t-1}+\sqrt{1-{\alpha }_t}{\mathbf{z}}_{t-1}& ;\text{ where }{\mathbf{z}}_{t-1},{\mathbf{z}}_{t-2},\cdots \sim \mathcal{N}(0,\mathbf{I})\\ & =\sqrt{{\alpha }_t}(\sqrt{{\alpha }_{t-1}}{x}_{t-2}+\sqrt{1-{\alpha }_{t-1}}{z}_{t-2})+\sqrt{1-{\alpha }_t}{z}_{t-1}& \\ & =\sqrt{{\alpha }_t{\alpha }_{t-1}}{x}_{t-2}+\sqrt{{\alpha }_t(1-{\alpha }_{t-1})}{z}_{t-2}+\sqrt{1-{\alpha }_t}{z}_{t-1}& \\ & =\sqrt{{\alpha }_t{\alpha }_{t-1}}{x}_{t-2}+\sqrt{1-{\alpha }_{t-1}{\alpha }_t}{\bar{z}}_{t-2}& ;\text{ where }{\bar{\mathbf{z}}}_{t-2},{\bar{\mathbf{z}}}_{t-3},\cdots \sim \mathcal{N}(0,\mathbf{I})\\ & =\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0+\sqrt{1-{\bar{\alpha }}_t}\mathbf{z}& \end{array}\end{array}$$
​ 其中公式4从第一行到第二行是将${\mathbf{x}}_{\mathbf{t}-1}$继续利用重参数化技巧展开，而从第三行到第四行利用了当两个高斯分布$\mathcal{N}\left(0,{\sigma }_1^2\mathbf{I}\right)$和$\mathcal{N}\left(0,{\sigma }_2^2\mathbf{I}\right)$相加时，新的分布为$\mathcal{N}\left(0,({\sigma }_1^2+{\sigma }_2^2)\mathbf{I}\right)$的性质。

​ 具体来说，$\sqrt{{\alpha }_t\left(1-{\alpha }_{t-1}\right)}{\mathbf{z}}_{t-2}$的方差为${\alpha }_t(1-{\alpha }_{t-1})$，而$\sqrt{1-{\alpha }_t}{\mathbf{z}}_{\mathbf{t}-1}$的方差为$1-{\alpha }_t$，因此新分布的方差为$1-{\alpha }_t{\alpha }_{t-1}$。

​ 将公式4写成条件概率的形式可以得到：
$$\begin{array}{c}q\left({\mathbf{x}}_t|{\mathbf{x}}_0\right)=\mathcal{N}\left({\mathbf{x}}_t;\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0,\left(1-{\bar{\alpha }}_t\right)\mathbf{I}\right)\end{array}$$
​ 此公式十分重要! 它意味着任意一个时刻$\mathrm{t}$，我们都可以从${\mathbf{x}}_0$直接计算得到${\mathbf{x}}_t$。

​ 由于${\beta }_t\in (0,1)$，所以${\alpha }_t\in (0,1)$。当$t\to \inf$时，${\bar{\alpha }}_t\to 0$。可以得到，$\sqrt{1-{\beta }_t}$和$\sqrt{{\beta }_t}$作为系数时，保证了当$T\to \inf$时，$q({\mathbf{x}}_{\mathbf{T}}=p_{\mathrm{prior}}({\mathbf{x}}_{\mathbf{T}}))=\mathcal{N}(0,\mathrm{I})$。实际上，只要$T$取一个很大的值，不需要无限次迭代，就可以近似于标准高斯分布。

​ ${\beta }_t\in \mathbb{R}$实际上是一个超参数，提前定义好的，同样$T$也是一个超参数。如$T$可设置为200，${\beta }_t$可以设置为从0.0001到0.02的线性插值作为所有$\beta$的取值。

​ 以上就是原数据分布到简单先验噪声分布的转换过程$\mathcal{T}$。值得注意的是，上述整个扩散过程没有出现一个可学习的参数，就可以将任意原始复杂的分布转换为简单先验分布（标准高斯分布）。

​ 通过Diffusion模型的前向过程，复杂的分布$q_{\mathrm{complex}}$被转换为了一个标准高斯分布$p_{\mathrm{prior}}$。

Reverse diffusion process (or denoising/generation/sampling)

​ Diffusion Model的逆向过程是从$p_{\mathrm{prior}}$中采样一个样本，将其转化为原始数据分布$q_{\mathrm{complex}}$中的一个样本。

​ 因此类似于上一节的扩散过程，依次从$q({\mathbf{x}}_{t-1}|{\mathbf{x}}_t),t\in \{T,T-1,T-2,...,0\}$中采样，Diffusion Model就可以实现从${\mathbf{x}}_T\sim \mathcal{N}(0,\mathrm{I})$到数据分布$q_{\mathrm{complex}}$的转换。

​ 不幸的是，$q({\mathbf{x}}_{t-1}|{\mathbf{x}}_t)$的分布是未知的。而 [Feller等人在1949年](https://projecteuclid.org/ebooks/berkeley-symposium-on-mathematical-statistics-and-probability/Proceedings of the [First] Berkeley Symposium on Mathematical Statistics and Probability/chapter/On the Theory of Stochastic Processes, with Particular Reference to Applications/bsmsp/1166219215)证明连续扩散过程的逆转具有与正向过程相同的分布形式。即当扩散率${\beta }_t$足够小，扩散次数足够多时，离散扩散过程接近于连续扩散过程，$q({\mathbf{x}}_{t-1}|{\mathbf{x}}_t)$的分布形式同$q({\mathbf{x}}_t|{\mathbf{x}}_{t-1})$一致，同样是高斯分布。

​ 但是我们依然很难直接写出$q({\mathbf{x}}_{t-1}|{\mathbf{x}}_t)$的分布参数。为此，我们需要学习一个模型$p_{\theta }({\mathbf{x}}_{t-1}|{\mathbf{x}}_t)$来近似$q({\mathbf{x}}_{t-1}|{\mathbf{x}}_t)$：
$$\begin{array}{c}\begin{array}{r}{p}_{\theta }\left({\mathbf{x}}_{t-1}|{\mathbf{x}}_t\right)=\mathcal{N}\left({\mathbf{x}}_{t-1};{\mathbf{\mu }}_{\theta }\left({\mathbf{x}}_t,t\right),{\mathbf{\Sigma }}_{\theta }\left({\mathbf{x}}_t,t\right)\right)\\ p_{\theta }\left({\mathbf{x}}_0\right)=\int p_{\theta }\left({\mathbf{x}}_{0:T}\right)d{\mathbf{x}}_{1:T}\\ p_{\theta }\left({\mathbf{x}}_{0:T}\right)=p\left({\mathbf{x}}_T\right)\prod _{t=1}^T{p}_{\theta }\left({\mathbf{x}}_{t-1}|{\mathbf{x}}_t\right)\end{array}\end{array}$$
​ 其中，这个高斯分布的均值${\mu }_{\theta }({\mathbf{x}}_t,t)$以及方差${\mathbf{\Sigma }}_{\theta }({\mathbf{x}}_t,t)$是需要学习的。

​ 在有了${\mu }_{\theta }$以及${\mathbf{\Sigma }}_{\theta }$以后，就得到了$p_{\theta }({\mathbf{x}}_{t-1}|{\mathbf{x}}_t)$的分布，因此就可以完成整个逆转过程。首先从$\mathcal{N}(0,\mathrm{I})$中采样得到，然后在${\mathbf{x}}_T$以${\mu }_{\theta }({\mathbf{x}}_T,T)$为均值，${\mathbf{\Sigma }}_{\theta }({\mathbf{x}}_T,T)$为方差的正态分布中采样得到${\mathbf{X}}_{T-1}$。然后重复这个过程，直到得到最终结果${\mathbf{x}}_0$。

​ 由于$q({\mathbf{x}}_{t-1}|{\mathbf{x}}_t)$未知，所以在逆转Diffusion过程中，用学习到的代替$p_{\theta }({\mathbf{x}}_{t-1}|{\mathbf{x}}_t)$它。

​ 虽然$q({\mathbf{x}}_{t-1}|{\mathbf{x}}_t)$不容易得到，但是我们可以使用它的后验$q({\mathbf{x}}_{t-1}|{\mathbf{x}}_t,{\mathbf{x}}_0)$来替换它，由于逆向过程也是一个Markov Chain，因此${\mathbf{x}}_0$是否存在并不会影响$q({\mathbf{x}}_{t-1}|{\mathbf{x}}_t)$。

​ 逆向过程中高斯的后验概率定义：
$$\begin{array}{c}q\left({\mathbf{x}}_{t-1}|{\mathbf{x}}_t,{\mathbf{x}}_0\right)=\mathcal{N}\left({\mathbf{x}}_{t-1};\tilde{\mathbf{\mu }}\left({\mathbf{x}}_t,{\mathbf{x}}_0\right),{\tilde{\beta }}_t\mathbf{I}\right)\end{array}$$
​ 使用后验概率，增加${\mathbf{x}}_0$的原因有以下两个：

• 从模仿的角度出发：我们的目标是学习一个模型$p_{\theta }({\mathbf{x}}_{t-1}|{\mathbf{x}}_t)$来反转$({\mathbf{x}}_{t-1},{\mathbf{x}}_t)$处，一个从特定数据点${\mathbf{x}}_0$开始的正向过程。我们对于中间潜变量${\mathbf{x}}_t$以及${\mathbf{x}}_{t-1}$的了解是由后验给出的，$q({\mathbf{x}}_t|{\mathbf{x}}_0)$,$q({\mathbf{x}}_{t-1}|{\mathbf{x}}_0)$以及$q({\mathbf{x}}_{t-1}|{\mathbf{x}}_{\mathbf{t}},{\mathbf{x}}_0)$。
• 从产生的学习目标出发：由于马尔科夫链的性质Diffusion Model（1）：预备知识1-4以及贝叶斯公式Diffusion Model（1）：预备知识1-8，后验概率$q({\mathbf{x}}_{t-1}|{\mathbf{x}}_t,{\mathbf{x}}_0)$会出现在扩散模型学习目标的推导过程。

​ 通过对后验概率$q({\mathbf{x}}_{t-1}|{\mathbf{x}}_t,{\mathbf{x}}_0)$使用公式1-8 的贝叶斯公式可以得到：
$$\begin{array}{c}\begin{array}{rl}q\left({\mathbf{x}}_{t-1}|{\mathbf{x}}_t,{\mathbf{x}}_0\right)& =q\left({\mathbf{x}}_t|{\mathbf{x}}_{t-1},{\mathbf{x}}_0\right)\frac{q\left({\mathbf{x}}_{t-1}|{\mathbf{x}}_0\right)}{q\left({\mathbf{x}}_t|{\mathbf{x}}_0\right)}\\ & =q\left({\mathbf{x}}_t|{\mathbf{x}}_{t-1}\right)\frac{q\left({\mathbf{x}}_{t-1}|{\mathbf{x}}_0\right)}{q\left({\mathbf{x}}_t|{\mathbf{x}}_0\right)}\\ & \propto \exp \left(-\frac{1}{2}\left(\frac{{\left({\mathbf{x}}_t-\sqrt{{\alpha }_t}{\mathbf{x}}_{t-1}\right)}^2}{{\beta }_t}+\frac{{\left({\mathbf{x}}_{t-1}-\sqrt{{\bar{\alpha }}_{t-1}}{\mathbf{x}}_0\right)}^2}{1-{\bar{\alpha }}_{t-1}}-\frac{{\left({\mathbf{x}}_t-\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0\right)}^2}{1-{\bar{\alpha }}_t}\right)\right)\\ & =\exp \left(-\frac{1}{2}\left((\frac{{\alpha }_t}{{\beta }_t}+\frac{1}{1-{\bar{\alpha }}_{t-1}}){\mathbf{x}}_{t-1}^2-(\frac{2\sqrt{{\alpha }_t}}{{\beta }_t}{\mathbf{x}}_t+\frac{2\sqrt{{\bar{\alpha }}_{t-1}}}{1-{\bar{\alpha }}_{t-1}}{\mathbf{x}}_0){\mathbf{x}}_{t-1}+C\left({\mathbf{x}}_t,{\mathbf{x}}_0\right)\right)\right)\end{array}\end{array}$$
​ 其中公式8第二行中结合公式2和公式5可以得到第三行:
$$\begin{array}{rl}q({\mathbf{x}}_t|{\mathbf{x}}_{t-1})& =\mathcal{N}({\mathbf{x}}_t;{\sqrt{\alpha }}_t{\mathbf{x}}_{t-1},{\beta }_t\mathbf{I})\propto \exp (-\frac{1}{2}\frac{({\mathbf{x}}_t-\sqrt{{\alpha }_t}{\mathbf{x}}_{t-1}{)}^2}{{\beta }_t})\\ q({\mathbf{x}}_{t-1}|{\mathbf{x}}_0)& =\mathcal{N}({\mathbf{x}}_{t-1};\sqrt{{\bar{\alpha }}_{t-1}}{\mathbf{x}}_0,(1-{\bar{\alpha }}_{t-1})\mathbf{I})\propto \exp (-\frac{1}{2}\frac{({\mathbf{x}}_{t-1}-\sqrt{{\bar{\alpha }}_{t-1}}{\mathbf{x}}_0{)}^2}{1-{\bar{\alpha }}_{t-1}})\\ q({\mathbf{x}}_t|{\mathbf{x}}_0)& =\mathcal{N}({\mathbf{x}}_t;\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0,(1-{\bar{\alpha }}_t)\mathbf{I})\propto \exp (-\frac{1}{2}\frac{({\mathbf{x}}_t-\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0{)}^2}{1-{\bar{\alpha }}_t})\end{array}$$
而其中的第四行可以利用$a{x}^2+bx+C=a(x+\frac{b}{2a}{)}^2$公式，将其凑成高斯分布概率密度的形式。

• ${\mathbf{x}}_{t-1}^2$:$\frac{{\alpha }_t}{{\beta }_t}{\mathbf{x}}_{t-1}^2+\frac{1}{1-\sqrt{{\bar{\alpha }}_{t-1}}}{\mathbf{x}}_{t-1}^2$，因此$a=\frac{{\alpha }_t}{{\beta }_t}+\frac{1}{1-\sqrt{{\bar{\alpha }}_{t-1}}}$
• ${\mathbf{x}}_{t-1}:(-\frac{2\sqrt{{\alpha }_t}}{{\beta }_t}{\mathbf{x}}_t){\mathbf{x}}_{t-1}+(-\frac{2\sqrt{{\bar{\alpha }}_{t-1}}}{1-{\bar{\alpha }}_{t-1}}{\mathbf{x}}_0){\mathbf{x}}_{t-1}$，因此$b=-(\frac{2\sqrt{{\alpha }_t}}{{\beta }_t}{x}_t+\frac{2\sqrt{{\bar{\alpha }}_{t-1}}}{1-\sqrt{{\bar{\alpha }}_{t-1}}}{x}_0)$

因此，我们可以得到$q({\mathbf{x}}_{t-1}|{\mathbf{x}}_t,{\mathbf{x}}_0)$的高斯概率密度表示为：
$$\begin{array}{c}q({\mathbf{x}}_{t-1}|{\mathbf{x}}_t,{\mathbf{x}}_0)=\mathcal{N}({\mathbf{x}}_{t-1};\tilde{\mu }({\mathbf{x}}_t,{\mathbf{x}}_0),\widetilde{{\beta }_t}\mathbf{I})\approx \exp \left(-\frac{(\mathbf{x}-\tilde{\mu }({\mathbf{x}}_t,{\mathbf{x}}_0){)}^2}{2{\tilde{\beta }}_t}\right)\end{array}$$

• 方差：${\tilde{\beta }}_t=\frac{1}{a}\to {\tilde{\beta }}_t=\frac{1}{\frac{{\alpha }_t}{{\beta }_t}+\frac{1}{1-\sqrt{{\bar{\alpha }}_{t-1}}}}=\frac{1-{\bar{\alpha }}_{t-1}}{1-{\bar{\alpha }}_t}\cdot {\beta }_t$
• 均值：$\tilde{\mu }(x_t,x_0)=-\frac{b}{2a}\to \left(\frac{\sqrt{{\alpha }_t}}{{\beta }_t}{\mathbf{x}}_t+\frac{\sqrt{{\bar{\alpha }}_t}}{1-{\bar{\alpha }}_t}{\mathbf{x}}_0\right)/\left(\frac{{\alpha }_t}{{\beta }_t}+\frac{1}{1-{\bar{\alpha }}_{t-1}}\right)=\frac{\sqrt{{\alpha }_t}\left(1-{\bar{\alpha }}_{t-1}\right)}{1-{\bar{\alpha }}_t}{\mathbf{x}}_t+\frac{\sqrt{{\bar{\alpha }}_{t-1}}{\beta }_t}{1-{\bar{\alpha }}_t}{\mathbf{x}}_0$

然后，使用公式4，将其中的${\mathbf{x}}_0=\frac{1}{\sqrt{\overline{{\alpha }_t}}}({\mathbf{x}}_t-\sqrt{1-{\bar{\alpha }}_t}{z}_t)$替换为${\mathbf{x}}_t$，因此公式9中的均值${\tilde{\mu }}_t({\mathbf{x}}_t,{\mathbf{x}}_0)$，对其进行推导可以得到：
$$\begin{array}{c}\begin{array}{rl}{\tilde{\mu }}_t({\mathbf{x}}_t,{\mathbf{x}}_0)& =\frac{\sqrt{{\alpha }_t}(1-{\bar{\alpha }}_{t-1})}{1-{\bar{\alpha }}_t}{\mathbf{x}}_t+\frac{\sqrt{{\bar{\alpha }}_{t-1}}{\beta }_t}{1-{\bar{\alpha }}_t}{\mathbf{x}}_0\\ & =\frac{\sqrt{{\alpha }_t}(1-{\bar{\alpha }}_{t-1})}{1-{\bar{\alpha }}_t}{\mathbf{x}}_t+\frac{\sqrt{{\bar{\alpha }}_{t-1}}{\beta }_t}{1-{\bar{\alpha }}_t}\cdot \frac{1}{\sqrt{{\bar{\alpha }}_t}}({\mathbf{x}}_t-\sqrt{1-{\bar{\alpha }}_t}{z}_t)\\ & =\frac{\sqrt{{\alpha }_t}\cdot \sqrt{{\alpha }_t}(1-{\bar{\alpha }}_{t-1})}{\sqrt{{\alpha }_t}\cdot (1-{\bar{\alpha }}_t)}{\mathbf{x}}_t+\frac{\sqrt{{\bar{\alpha }}_{t-1}}{\beta }_t}{1-{\bar{\alpha }}_t}\cdot \frac{1}{\sqrt{{\bar{\alpha }}_t}}(x_t-\sqrt{1-{\bar{\alpha }}_t}{z}_t)\\ & =\frac{{\alpha }_t-{\bar{\alpha }}_t}{\sqrt{{\alpha }_t}(1-{\bar{\alpha }}_t)}{\mathbf{x}}_t+\frac{{\beta }_t}{(1-{\bar{\alpha }}_t)\sqrt{{\alpha }_t}}(x_t-\sqrt{1-{\bar{\alpha }}_t}{z}_t)\\ & =\frac{1-{\bar{\alpha }}_t}{\sqrt{{\alpha }_t}(1-{\bar{\alpha }}_t)}{\mathbf{x}}_t-\frac{{\beta }_t}{(1-{\bar{\alpha }}_t)\sqrt{{\alpha }_t}}(\sqrt{1-{\bar{\alpha }}_t}{z}_t)\\ & =\frac{1}{\sqrt{{\alpha }_t}}{\mathbf{x}}_t-\frac{{\beta }_t}{\sqrt{(1-{\bar{\alpha }}_t)}\sqrt{{\alpha }_t}}{z}_t\\ & =\frac{1}{\sqrt{{\alpha }_t}}({\mathbf{x}}_t-\frac{{\beta }_t}{\sqrt{(1-{\bar{\alpha }}_t)}}{z}_t)\end{array}\end{array}$$
​ 上述公式的第四行到第五行的变换用到了${\beta }_t=1-{\alpha }_t$

​ 到此，我们在逆向过程中的目标就变成了拉近以下两个高斯分布的距离，这可以通过计算两个分布的KL散度实现，其中$q\left({\mathbf{x}}_{t-1}|{\mathbf{x}}_t,{\mathbf{x}}_0\right)$的均值和方差都是已知的：
$$\begin{array}{c}q\left({\mathbf{x}}_{t-1}|{\mathbf{x}}_t,{\mathbf{x}}_0\right)=\mathcal{N}\left({\mathbf{x}}_{t-1};\tilde{\mathbf{\mu }}\left({\mathbf{x}}_t,{\mathbf{x}}_0\right),{\tilde{\beta }}_t\mathbf{I}\right)⟷p_{\theta }\left({\mathbf{x}}_{t-1}|{\mathbf{x}}_t\right)=\mathcal{N}\left({\mathbf{x}}_{t-1};{\mathbf{\mu }}_{\theta }\left({\mathbf{x}}_t,t\right),{\mathbf{\Sigma }}_{\theta }\left({\mathbf{x}}_t,t\right)\right)\end{array}$$
References:

• 什么是Diffusion模型？
  
• What are Diffusion Models?
  
• Diffusion Models for Deep Generative Learning