DDPM（Denoising Diffusion Probabilistic Models）扩散模型简述

引言

扩散模型最早是在2015年的Deep Unsupervised Learning using Nonequilibrium Thermodynamics文章中提出的，但当时扩散模型并不work，所以并没有被广泛应用。在2020年，Denoising Diffusion Probabilistic Models(简称为DDPM)的出现，将扩散模型带到了一个新高度。并且在其之前主流的生成网络GAN，还存在一些缺点，因为其要训练两个网络，难度较大，容易不收敛，多样性较差，并且模型在训练过程中不稳定，只要骗过判别器即可。而生成模型用一种更简单的方法诠释了生成模型应该如何学习和生成，感觉更简单，之后扩散模型可能会替代GAN成为主流的生成模型。

以上是扩散模型的图示，可以看到扩散模型分为两个阶段，分为前向过程和逆向过程。

• 前向过程即上图中${\mathbf{x}}_0$到${\mathbf{x}}_T$的过程，我们向原始图像中逐步添加高斯噪声，并且后一时刻都是由前一时刻添加噪声得到的，这样我们就得到${\mathbf{x}}_1$，${\mathbf{x}}_2$，…,${\mathbf{x}}_T$，${\mathbf{x}}_T$是完全的高斯噪声。前向过程存在的意义就是帮助神经网络去训练逆向过程，也即前向过程中得到的噪声就是一系列标签，根据这些标签，逆向过程在去噪的时候就知道噪音是怎么加进去的，进而进行训练。正向过程对应网络的训练过程
• 逆向过程即上图中${\mathbf{x}}_T$到${\mathbf{x}}_0$的过程。我们从标准正态分布采样的高斯噪声${\mathbf{x}}_T$，逐步对其去噪，得到${\mathbf{x}}_{T-1}$，${\mathbf{x}}_{T-2}$，…，${\mathbf{x}}_0$，${\mathbf{x}}_0$是没有噪声的的图像。逆向过程对应网络的推理过程。

---

前向过程Forward Process

前向过程又称扩散过程，其是一个马尔科夫过程(即当前状态只和前一个状态有关)。我们向原始图像${\mathbf{x}}_0$中逐步添加高斯噪声，噪声的标准差是固定值${\beta }_t$来确定的，均值是固定值${\beta }_t$和和$t-1$时刻的数据${\mathbf{x}}_{t-1}$确定的。随着$t$不断增大，最终分布${\mathbf{x}}_T$服从于各向同性的高斯分布了。那么我们要加多少次噪声呢，也即$T$取多大好呢？论文中将$T$看做成一个超参数，$T=1000$，即加1000次噪声后，${\mathbf{x}}_T$会变成各向同性的高斯分布。下方是论文中给出的扩散过程${\mathbf{x}}_t$的分布。
$$q({\mathbf{x}}_t\mid {\mathbf{x}}_{t-1})=\mathcal{N}({\mathbf{x}}_t;\sqrt{1-{\beta }_t}{\mathbf{x}}_{t-1},{\beta }_t\mathbf{I})$$
我们可以利用重参数化技巧，将其改写成下面的式子
$${\mathbf{x}}_t=\sqrt{1-{\beta }_t}{\mathbf{x}}_{t-1}+\sqrt{{\beta }_t}{\mathbf{z}}_{t-1}$$
通过这个式子，我们就可以很直观的看到这个噪声是怎么加的，即$a\times Image+b\times Noise$，$Image$是前一时刻生成的图像，即上式中的${\mathbf{x}}_{t-1}$；$Noise$是标准正态分布，即上式中${\mathbf{z}}_{t-1}\sim \mathcal{N}(0,\mathbf{I})$。并且这里图像和噪音的权重是不断变化的，也即上式中的${\beta }_t$，论文中将其称作扩散率，也是按照超参数处理，$\beta$的范围从0.0001逐步增大到0.002。为什么扩散率是逐渐增大的呢，也即为什么噪音所占的比例越来越大呢？可以反过来理解，在加噪声的过程中，扩散率逐渐增大，对应着在去噪声的过程中，扩散率逐渐减小，也就是说，去噪的过程是先把"明显"的噪声给去除，对应着较大的扩散率；当去到一定程度，逐渐逼近真实真实图像的时候，去噪速率逐渐减慢，开始微调，也就是对应着较小的扩散率。

重参数化技巧

如果我们要对高斯分布$\mathcal{N}(\mu ,{\sigma }^2)$进行采样一个噪声$ϵ$，等价于先从标准正态分布$\mathcal{N}(0,1)$中采样的到一个噪声$\mathbf{z}$，然后对其乘上标准差$\sigma$，加上均值$\mu$，即$ϵ=\mu +\sigma \cdot \mathbf{z}$。举个例子，上面我们已经得到了${\mathbf{x}}_t$是从高斯分布$\mathcal{N}(\sqrt{1-{\beta }_t}{\mathbf{x}}_{t-1},{\beta }_t\mathbf{I})$采样出来的噪声，该高斯分布的均值为$\sqrt{1-{\beta }_t}{\mathbf{x}}_{t-1}$，标准差为$\sqrt{{\beta }_t}$，所以${\mathbf{x}}_t=\sqrt{1-{\beta }_t}{\mathbf{x}}_{t-1}+\sqrt{{\beta }_t}\mathbf{z}$。

解释结束

现在我们可以根据${\mathbf{x}}_{t-1}$得到${\mathbf{x}}_t$，那么如果我们给出了原始图像${\mathbf{x}}_0$。能不能通过一次计算就得到加噪任意$t$次之后的${\mathbf{x}}_t$？答案是可以的。
首先令${\alpha }_t=1-{\beta }_t$，${\bar{\alpha }}_t={\alpha }_1\ast {\alpha }_2\ast \cdots \ast {\alpha }_t$，${\tilde{\mathbf{z}}}_t\sim \mathcal{N}(0,\mathbf{I})$，则
$$\begin{array}{rl}{\mathbf{x}}_t& =\sqrt{{\alpha }_t}{\mathbf{x}}_{t-1}+\sqrt{1-{\alpha }_t}{\mathbf{z}}_{t-1}\\ & =\sqrt{{\alpha }_t}\ast (\sqrt{{\alpha }_{t-1}}{\mathbf{x}}_{t-2}+\sqrt{1-{\alpha }_{t-1}}{\mathbf{z}}_{\mathbf{t}-2})+\sqrt{1-{\alpha }_t}{\mathbf{z}}_{t-1}\\ & =\sqrt{{\alpha }_t{\alpha }_{t-1}}{\mathbf{x}}_{t-2}+\sqrt{{\alpha }_t-{\alpha }_t{\alpha }_{t-1}}{\mathbf{z}}_{t-2}+\sqrt{1-{\alpha }_t}{\mathbf{z}}_{t-1}\ast \\ & =\sqrt{{\alpha }_t{\alpha }_{t-1}}{\mathbf{x}}_{t-2}+\sqrt{1-{\alpha }_t{\alpha }_{t-1}}{\bar{\mathbf{z}}}_{t-2}\\ & =\dots \\ & =\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0+\sqrt{1-{\bar{\alpha }}_t}{\tilde{\mathbf{z}}}_t\end{array}$$
通过重参数化，我们能得到$q({\mathbf{x}}_t\mid {\mathbf{x}}_0)=\mathcal{N}({\mathbf{x}}_t;\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0,(1-{\bar{\alpha }}_t)\mathbf{I})$

对于$\ast$处运算的解释

对于任意两个正态分布$\mathbf{x}\sim \mathcal{N}({\mu }_1,{\sigma }_1^2)$和$\mathbf{y}\sim \mathcal{N}({\mu }_2,{\sigma }_2^2)$,其和的分布$\mathbf{x}+\mathbf{y}\sim \mathcal{N}({\mu }_1+{\mu }_2,{\sigma }_1^2+{\sigma }_2^2)$

因此对于两个标准正态分布${\mathbf{z}}_{t-2}$和${\mathbf{z}}_{t-1}$,将其前面乘上一个系数，$\sqrt{{\alpha }_t-{\alpha }_t{\alpha }_{t-1}}{\mathbf{z}}_{t-2}\sim \mathcal{N}(0,{\alpha }_t-{\alpha }_t{\alpha }_{t-1})$，$\sqrt{1-{\alpha }_t}{\mathbf{z}}_{t-1}\sim \mathcal{N}(0,1-{\alpha }_t)$，因此$\sqrt{{\alpha }_t-{\alpha }_t{\alpha }_{t-1}}{\mathbf{z}}_{t-2}+\sqrt{1-{\alpha }_t}{\mathbf{z}}_{t-1}\sim \mathcal{N}(0,1-{\alpha }_t{\alpha }_{t-1})$，也即$\sqrt{1-{\alpha }_t{\alpha }_{t-1}}{\bar{\mathbf{z}}}_{t-2}$。这里不同形式$\mathbf{z}$单纯起区分作用，本质上都属于标准正态分布$\mathcal{N}(0,\mathbf{I})$的不同采样。

解释结束

以上就是前向过程大概内容，我们从前向过程得到的${\mathbf{x}}_t$将会作为标签，帮助网络学习如何从${\mathbf{x}}_T$中一步步去噪，最终得到${\mathbf{x}}_0$。

---

后向过程Reverse Process

后向过程又称逆扩散过程。我们希望能够从一个噪声分布${\mathbf{x}}_T$中逐步去预测出来目标分布${\mathbf{x}}_0$。后向过程仍然是一个马尔科夫链过程。根据我们输入的${\mathbf{x}}_t$去求${\mathbf{x}}_{t-1}$的分布，即求$q({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_t)$，直接对该公式求解比较困难，可以使用贝叶斯公式将其转化为我们已知的量$$q({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_t)=q({\mathbf{x}}_t\mid {\mathbf{x}}_{t-1})\frac{q({\mathbf{x}}_{t-1})}{q({\mathbf{x}}_t)}$$
由前向过程，$q({\mathbf{x}}_t\mid {\mathbf{x}}_{t-1})$已知，但是$q({\mathbf{x}}_{t-1})$和$q({\mathbf{x}}_t)$未知，但是如果我们给其加上一个先决条件$q({\mathbf{x}}_0)$，也即$q({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_0)$和$q({\mathbf{x}}_t\mid {\mathbf{x}}_0)$，这两个分布由前向过程我们是已知的，所以对$q({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_t)$加上一个条件${\mathbf{x}}_0$，得到一个多元条件分布
$$q({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_t,{\mathbf{x}}_0)=q({\mathbf{x}}_t\mid {\mathbf{x}}_{t-1},{\mathbf{x}}_0)\frac{q({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_0)}{q({\mathbf{x}}_t\mid {\mathbf{x}}_0)}$$
由于扩散过程是马尔科夫过程，所以$q({\mathbf{x}}_t\mid {\mathbf{x}}_{t-1},{\mathbf{x}}_0)=q({\mathbf{x}}_t\mid {\mathbf{x}}_{t-1})$
至此，所有分布我们都已知了，由于正态分布$\mathcal{N}(\mu ,{\sigma }^2)$的概率密度函数$p(x)=\frac{1}{\sqrt{2\pi }\sigma }{e}^{-\frac{1}{2}(\frac{x-\mu }{\sigma }{)}^2}\propto exp(-\frac{1}{2}(\frac{x-\mu }{\sigma }{)}^2)=exp(-\frac{1}{2}(\frac{1}{{\sigma }^2}{x}^2-\frac{2\mu }{{\sigma }^2}x+\frac{{\mu }^2}{{\sigma }^2}))$，故

• $q({\mathbf{x}}_t\mid {\mathbf{x}}_{t-1})=\mathcal{N}({\mathbf{x}}_t;\sqrt{{\alpha }_t}{\mathbf{x}}_{t-1},(1-{\alpha }_t)\mathbf{I})\propto exp(-\frac{1}{2}\frac{({\mathbf{x}}_t-\sqrt{{\alpha }_t}{\mathbf{x}}_{t-1}{)}^2}{1-{\alpha }_t})$
• ${\mathbf{x}}_{t-1}=\sqrt{{\bar{\alpha }}_{t-1}}{\mathbf{x}}_0+\sqrt{1-{\bar{\alpha }}_{t-1}}{\tilde{\mathbf{z}}}_{t-1}$，利用重参数技巧，则$q({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_0)=\mathcal{N}({\mathbf{x}}_{t-1};\sqrt{{\bar{\alpha }}_{t-1}}{\mathbf{x}}_0,(1-{\bar{\alpha }}_{t-1})\mathbf{I})\propto exp(-\frac{1}{2}\frac{({\mathbf{x}}_{t-1}-\sqrt{{\bar{\alpha }}_{t-1}}{\mathbf{x}}_0{)}^2}{1-{\bar{\alpha }}_{t-1}})$
• ${\mathbf{x}}_t=\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0+\sqrt{1-{\bar{\alpha }}_t}{\tilde{\mathbf{z}}}_t$，同样利用重参数技巧，则$q({\mathbf{x}}_t\mid {\mathbf{x}}_0)=\mathcal{N}({\mathbf{x}}_t;\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0,(1-{\bar{\alpha }}_t)\mathbf{I})\propto exp(-\frac{1}{2}\frac{({\mathbf{x}}_t-\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0{)}^2}{1-{\bar{\alpha }}_t})$

这样一来我们对概率分布的运算就可以转化为指数运算。由于对指数进行乘除运算相当于对其系数的加减运算，故
$q({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_t,{\mathbf{x}}_0)=q({\mathbf{x}}_t\mid {\mathbf{x}}_{t-1})\frac{q({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_0)}{q({\mathbf{x}}_t\mid {\mathbf{x}}_0)}\propto exp(-\frac{1}{2}[\frac{({\mathbf{x}}_t-\sqrt{{\alpha }_t}{\mathbf{x}}_{t-1}{)}^2}{1-{\alpha }_t}+\frac{({\mathbf{x}}_{t-1}-\sqrt{{\bar{\alpha }}_{t-1}}{\mathbf{x}}_0{)}^2}{1-{\bar{\alpha }}_{t-1}}-\frac{({\mathbf{x}}_t-\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0{)}^2}{1-{\bar{\alpha }}_t}])$
由于我们目标是求与${\mathbf{x}}_{t-1}$有关的条件分布，所以将平方项进一步展开化简为关于${\mathbf{x}}_{t-1}$的二次函数
$$q({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_t,{\mathbf{x}}_0)\propto exp(-\frac{1}{2}[(\frac{{\alpha }_t}{{\beta }_t}+\frac{1}{1-{\bar{\alpha }}_{t-1}}){\mathbf{x}}_{t-1}^2-(\frac{2\sqrt{{\alpha }_t}}{{\beta }_t}{\mathbf{x}}_t+\frac{2\sqrt{{\bar{\alpha }}_{t-1}}}{1-{\bar{\alpha }}_{t-1}}{\mathbf{x}}_0){\mathbf{x}}_{t-1}-C({\mathbf{x}}_t,{\mathbf{x}}_0)])$$
这里$C({\mathbf{x}}_t,{\mathbf{x}}_0)$为$\frac{({\mathbf{x}}_t-\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0{)}^2}{1-{\bar{\alpha }}_t}$，也即$q({\mathbf{x}}_t\mid {\mathbf{x}}_0)$。由于上式是关于${\mathbf{x}}_{t-1}$的函数，由于$q({\mathbf{x}}_t\mid {\mathbf{x}}_0)$不含${\mathbf{x}}_{t-1}$，故将其视为常数$C$。由于$q({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_t,{\mathbf{x}}_0)$服从于正态分布，所以我们只需要找到其均值和方差就能求出其分布。怎么求？
现在我们考虑正态分布$\mathcal{N}(\mu ,{\sigma }^2)$的概率密度函数$p(x)=\frac{1}{\sqrt{2\pi }\sigma }{e}^{-\frac{1}{2}(\frac{x-\mu }{\sigma }{)}^2}\propto exp(-\frac{1}{2}(\frac{x-\mu }{\sigma }{)}^2)=exp(-\frac{1}{2}(\frac{1}{{\sigma }^2}{x}^2-\frac{2\mu }{{\sigma }^2}x+\frac{{\mu }^2}{{\sigma }^2}))$，所以我们可以找出分布$q({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_t,{\mathbf{x}}_0)$的均值和方差。由于方差${\sigma }^2$是$x^2$系数的倒数，而${\mathbf{x}}_{t-1}^2$的系数为$(\frac{{\alpha }_t}{{\beta }_t}+\frac{1}{1-{\bar{\alpha }}_{t-1}})$，其只由人为设置的超参数$\beta$确定，故方差是已知的。$x$的系数为$-\frac{2\mu }{{\sigma }^2}$，则我们可以根据方差来间接求出均值，${\mathbf{x}}_{t-1}$的系数为$(\frac{2\sqrt{{\alpha }_t}}{{\beta }_t}{\mathbf{x}}_t+\frac{2\sqrt{{\bar{\alpha }}_{t-1}}}{1-{\bar{\alpha }}_{t-1}}{\mathbf{x}}_0)$。可以发现，系数中共有四个变量$\alpha$，$\beta$，${\mathbf{x}}_t$和${\mathbf{x}}_0$，其中$\alpha$，$\beta$，${\mathbf{x}}_t$都是已知的，但是对于${\mathbf{x}}_0$，由于我们现在是处于后向过程，${\mathbf{x}}_0$是未知的，现在我们要想办法将${\mathbf{x}}_0$用已知量进行替换。我们先将${\mathbf{x}}_{t-1}$的均值记为一个关于${\mathbf{x}}_t$和${\mathbf{x}}_0$的函数${\tilde{\mu }}_t({\mathbf{x}}_t,{\mathbf{x}}_0)$。将$\frac{1}{{\sigma }^2}=(\frac{{\alpha }_t}{{\beta }_t}+\frac{1}{1-{\bar{\alpha }}_{t-1}})$代入$\frac{2\mu }{{\sigma }^2}=(\frac{2\sqrt{{\alpha }_t}}{{\beta }_t}{\mathbf{x}}_t+\frac{2\sqrt{{\bar{\alpha }}_{t-1}}}{1-{\bar{\alpha }}_{t-1}}{\mathbf{x}}_0)$求解可得$${\tilde{\mu }}_t({\mathbf{x}}_t,{\mathbf{x}}_0)=\frac{\sqrt{{\alpha }_t}(1-{\bar{\alpha }}_{t-1})}{1-{\bar{\alpha }}_t}{\mathbf{x}}_t+\frac{\sqrt{{\bar{\alpha }}_{t-1}}{\beta }_t}{1-{\bar{\alpha }}_t}{\mathbf{x}}_0$$
现在回想一下，我们已经在前向过程中已经得到了${\mathbf{x}}_0$和${\mathbf{x}}_t$的关系$${\mathbf{x}}_t=\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0+\sqrt{1-{\bar{\alpha }}_t}{\tilde{\mathbf{z}}}_t$$
现在我们用${\mathbf{x}}_t$来表示${\mathbf{x}}_0$ $${\mathbf{x}}_0=\frac{1}{\sqrt{{\bar{\alpha }}_t}}({\mathbf{x}}_t-\sqrt{1-{\bar{\alpha }}_t}{\tilde{\mathbf{z}}}_t)$$然后将其代入$${\tilde{\mu }}_t({\mathbf{x}}_t)=\frac{1}{\sqrt{{\alpha }_t}}({\mathbf{x}}_t-\frac{1-{\alpha }_t}{\sqrt{1-{\bar{\alpha }}_t}}{\tilde{\mathbf{z}}}_t)$$
这样我们就把${\mathbf{x}}_0$消掉了，现在我们只要知道了${\tilde{\mathbf{z}}}_t$,就能将${\tilde{\mu }}_t$表示出来，进而得到$q({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_t,{\mathbf{x}}_0)$的分布，将${\mathbf{x}}_{t-1}$采样出来，完成一次去噪过程。那么${\tilde{\mathbf{z}}}_t$怎么求呢？
这就要请出深度学习了，我们可以设计一个网络去预测在${\mathbf{x}}_t$时刻的噪音${\tilde{\mathbf{z}}}_t$。网络的输入是${\mathbf{x}}_t$，网络的输出是${\tilde{\mathbf{z}}}_t$，这是一个预测值，那么真实值在哪呢？我们只有得到真实值，我们才能计算预测值和真值之间的损失，从而训练网络。这时我们考虑前向过程，前向过程中，后一时刻等于前一时刻加上一个噪音$\mathbf{z}$，$\mathbf{z}$是我们采样得来的，是已知的，也就是之前我们所谓的标签。假设我们前向过程由${\mathbf{x}}_{t-1}$到${\mathbf{x}}_t$加的噪音为$\mathbf{z}$，那么${\tilde{\mathbf{z}}}_t$的真值就是$\mathbf{z}$，所以我们这个网络训练的${\tilde{\mathbf{z}}}_t$就去不断拟合噪声$\mathbf{z}$。
至此前向过程和后向过程已经介绍结束了，如果读者想了解论文中交叉熵loss的推导，可以看公式推导这篇文章的解释(由于篇幅限制，我只好把它放到另一篇文章)，这部分公式比较复杂，如果不感兴趣，直接跳过即可，不影响最后算法理解。

---

DDPM算法代码

训练部分

• 首先在真实图像分布$q({\mathbf{x}}_0)$中采样出${\mathbf{x}}_0$，也即我们的训练图像
• 在区间$1,...,T$中随机生成生成一个$t$，代表扩散(加噪)次数
• 从标准正态分布中采样一个随机噪声$ϵ$
• 计算损失函数，其中的真值是我们刚刚采样得到的噪声$ϵ$，网络预测值是${ϵ}_{\theta }(\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0+\sqrt{1-{\bar{\alpha }}_t}ϵ,t)$，而$\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0+\sqrt{1-{\bar{\alpha }}_t}ϵ$是我们在前向过程中求得的${\mathbf{x}}_t$，这其可以改写为${ϵ}_{\theta }({\mathbf{x}}_t,t)$，这里的$t$做一个时间编码喂入网络中，因为在后向过程中，每一次迭代的网络都是相同的，即参数共享，那怎么让网络知道现在迭代到哪一步呢，那么我们就将$t$一同传进去参与训练，用$t$来告诉网络我现在进行到第几次迭代了。时间编码和transformer中的位置编码类似。

总结一下，训练过程就是给定${\mathbf{x}}_0$和随机噪声$ϵ$，然后生成一个扩散(加噪)次数$t$，进行$t$次扩散过程得到${\mathbf{x}}_t$，然后通过一个网络${ϵ}_{\theta }$来预测一个合适的噪声，也就是${\tilde{\mathbf{z}}}_t$

采样部分

• 首先从标准正态分布中采样一个随机噪声${\mathbf{x}}_T$。因为我们在前向过程中认为在原图扩散$T$次之后，原图服从于一个各相同性的高斯分布。
• 然后进行$T$次迭代，对于每一次迭代，首先采样一个标准高斯噪声，但是最后一步就不采样了。然后通过公式计算去噪一次的结果，公式中的${ϵ}_{\theta }$就是我们在训练过程得到的结果。

---

总结

DDPM对Deep Unsupervised Learning using Nonequilibrium Thermodynamics文中提出的模型(下文称扩散模型)改进了两点

• 第一点，扩散模型在后向过程中，是由${\mathbf{x}}_t$预测${\mathbf{x}}_{t-1}$，也即直接预测图像，而DDPM是预测在前向过程中，我们从${\mathbf{x}}_{t-1}$扩散到${\mathbf{x}}_t$所加的噪声，有点类似Resnet，即如何将噪声从噪声-图像混合物中分离出来，从而将问题简化。
• 第二点，如果我们要预测一个正态分布，我们只需要学它的均值和方差即可，而DDPM将方差视作常数，只需学习均值就能得到分布，最后的效果也不错，并且降低了模型优化的难度

之后有关DDPM的改进，比如IDDPM，DM beats gan等等，读者可自行了解。

参考

Denoising Diffusion Probabilistic Models
What are Diffusion Models?
入门理解Denoising Diffusion Probabilistic Model
Probabilistic Diffusion Model概率扩散模型理论