【论文笔记】Denoising Diffusion Probabilistic Models

Pre Knowledge

1.条件概率的一般形式

$P(A,B)=P(B|A)P(A)$
$P(A,B,C)=P(C|B,A)P(B,A)=P(C|B,A)P(B|A)P(A)$

2.基于马尔可夫假设的条件概率

假设$A\to B\to C$，那么$C$仅与上一个事件$B$有关系。
$P(A,B,C)=P(C|B,A)P(B,A)=P(C|B)P(B|A)P(A)$
$P(B,C|A)=P(B|A)P(C|B)$

3.高斯分布的KL散度

KL散度(Kullback-Leibler divergence)是一种衡量两个概率分布之间的差异性的度量方法，又被称为相对熵、互熵。
一个离散随机变量$X$的可能取值为$X=x_1,x_2,\cdots ,x_n$，而对应的概率为$p_i=p(X=x_i)$，则随机变量的熵定义为：
$$H(X)=-\sum _{i=1}^{n}p(x_i)\log p(x_i)$$
规定：当$p(x_i)=0$时，$p(x_i)\log p(x_i)=0$。
如果有两个随机变量$P,Q$，其概率分布分别为$p(x),q(x)$，则$p$相对$q$的相对熵为：
$$D_{KL}(p||q)=\sum _{i=1}^{n}p(x_i)\log \frac{p(x_i)}{q(x_i)}$$
高斯分布即正态分布，若$x\sim N(\mu ,{\sigma }^2)$，其概率密度分布可表示为
$$f(x|\mu ,{\sigma }^2)=\frac{1}{\sqrt{2\pi {\sigma }^2}}{e}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}}$$
若两个随机变量$P\sim N({\mu }_1,{\sigma }_1^2),Q\sim N({\mu }_2,{\sigma }_2^2)$，概率分布分别为$p(x),q(x)$，代入KL散度公式可得：
$$\begin{array}{rl}{D}_{KL}(p||q)& ={\int }_{x}p(x)\log \frac{p(x)}{q(x)}dx\\ & ={\int }_{x}p(x)[\log (\frac{1}{\sqrt{2\pi {\sigma }_1^2}}{e}^{-\frac{(x-{\mu }_1{)}^2}{2{\sigma }_1^2}})-\log (\frac{1}{\sqrt{2\pi {\sigma }_2^2}}{e}^{-\frac{(x-{\mu }_2{)}^2}{2{\sigma }_2^2}})]dx\\ & ={\int }_{x}p(x)[-\frac{1}{2}\log 2\pi -\log {\sigma }_1-\frac{(x-{\mu }_1{)}^2}{2{\sigma }_1^2}+\frac{1}{2}\log 2\pi +\log {\sigma }_2+\frac{(x-{\mu }_2{)}^2}{2{\sigma }_2^2}]dx\\ & ={\int }_{x}p(x)[\log \frac{{\sigma }_2}{{\sigma }_1}+\frac{(x-{\mu }_2{)}^2}{2{\sigma }_2^2}-\frac{(x-{\mu }_1{)}^2}{2{\sigma }_1^2}]dx\\ & =A\end{array}$$
根据全概率公式，${\int }_{x}p(x)dx=1$；根据方差定义，${\int }_{x}p(x)(x-\mu {)}^{2}dx={\sigma }^2$。因此有
$$\begin{array}{rl}A& ={\int }_{x}p(x)\log \frac{{\sigma }_2}{{\sigma }_1}dx+{\int }_{x}p(x)\frac{(x-{\mu }_2{)}^2}{2{\sigma }_2^2}dx-{\int }_{x}p(x)\frac{(x-{\mu }_1{)}^2}{2{\sigma }_1^2}dx\\ & =\log \frac{{\sigma }_2}{{\sigma }_1}+{\int }_{x}p(x)\frac{(x-{\mu }_2{)}^2}{2{\sigma }_2^2}dx-\frac{1}{2}\\ & =\log \frac{{\sigma }_2}{{\sigma }_1}+B-\frac{1}{2}\end{array}$$
$$\begin{array}{rl}B& ={\int }_{x}p(x)\frac{(x-{\mu }_2{)}^2}{2{\sigma }_2^2}dx\\ & =\frac{1}{2{\sigma }_2^2}{\int }_{x}p(x)[(x-{\mu }_1)+({\mu }_1-{\mu }_2){]}^{2}dx\\ & =\frac{1}{2{\sigma }_2^2}[{\int }_{x}p(x)(x-{\mu }_1{)}^{2}dx+{\int }_{x}p(x)({\mu }_1-{\mu }_2{)}^{2}dx+2{\int }_{x}p(x)(x-{\mu }_1)({\mu }_1-{\mu }_2)dx]\\ & =\frac{1}{2{\sigma }_2^2}[{\sigma }_1^2+({\mu }_1-{\mu }_2{)}^2+2({\mu }_1-{\mu }_2){\int }_{x}p(x)(x-{\mu }_1)dx]\\ & =\frac{1}{2{\sigma }_2^2}[{\sigma }_1^2+({\mu }_1-{\mu }_2{)}^2+2({\mu }_1-{\mu }_2)C]\end{array}$$
根据正态分布的性质，$E(x)=\mu$，因此有${\int }_{x}p(x)(x-{\mu }_1)=E(x-\mu )=E(x)-E(\mu )=0$，因此有
$C=0$，代入后得到：
$$B=\frac{1}{2{\sigma }_2^2}[{\sigma }_1^2+({\mu }_1-{\mu }_2{)}^2]$$
$$A=\log \frac{{\sigma }_2}{{\sigma }_1}+\frac{1}{2{\sigma }_2^2}[{\sigma }_1^2+({\mu }_1-{\mu }_2{)}^2]-\frac{1}{2}$$

4.重参数化技巧 reparameterization trick

以正态分布为例，有时我们需要从$\mathcal{N}(\mu ,{\sigma }^2)$中进行采样。当我们需要训练优化$\mu$和$\sigma$时，由于采样的过程不可导，此时无法传递梯度。此时为了实现采样并不让$\mu$和$\sigma$影响梯度的计算，先从$\mathcal{N}(0,1)$采样，这时不涉及所求的$\mu$和$\sigma$，因此没有需要传递的梯度。设此时采样值为$z$，根据当前的$\mu$和$\sigma$，可以计算出等价采样值$z^{\prime }=\mu +z\times \sigma$。

Abstract

使用Diffusion probabilistic models提供高质量的图像合成结果。
模型自然地承认一个渐进的有损解压方案，可以解释为自回归解码的一个推广。

在unconditional CIFAR10数据集上，我们获得了9.46的Inception分数和3.17的最先进的FID分数。在256x256 LSUN上，我们得到了与ProgressiveGAN类似的样本质量。

1 Introduction

各种深度生成模型在各种数据模态中都展示了高质量样本。生成对抗网络(GAN)、自回归模型(autoregressive models)、流(flows)和变分自编码器(VAEs)合成了引人注目的图像和音频样本，并且在基于能量的建模和得分匹配方面取得了显著进展，产生了与GAN相当的图像。

本文介绍了diffusion probabilistic model的进展(简称diffusion model，扩散模型)。
扩散模型是利用变分推理的参数化马尔可夫链，在有限时间后产生与数据匹配的样本。通过学习该链的一个变迁逆转一个扩散过程，该扩散过程是一个马尔可夫链，在采样的相反方向上逐渐给数据添加噪声，直到信号被破坏。当扩散由少量高斯噪声组成时，将采样链转换设置为条件高斯，从而允许特别简单的神经网络参数化。
扩散模型是直接定义有效的训练，但目前没有证据表明能够产生高质量样本。本文认为，扩散模型实际上能够产生高质量的样本，有时比其他类型的生成模型的公开结果更好(第4节)。

本文证明了扩散模型的某种参数化揭示了下面二者的等价性：
a.训练过程中多个噪声水平上的去噪分数匹配
b.采样过程中退火朗之万动力学(Annealed Langevin Dynamics)
本文通过该参数化得到了最好的样本质量结果（认为是本文的主要贡献之一）。

尽管样本质量很高，与其他基于似然的模型(likelihood-based models)相比，本文的模型的对数似然不具有竞争性，但是确实相比已发布的为基于能量的模型(energy based models)和分数匹配产生的退火重要性采样的大估计，有更好的对数似然。

本文模型的大部分无损码长(lossless codelengths)都用于描述不易察觉的图像细节(4.3节)。
本文用有损压缩的语言(language of lossy compression)对这一现象进行了更精细的分析，表明扩散模型的采样过程就是一种渐进解码(progressive decoding)，类似于自回归解码的比特排序，极大概括了自回归模型通常可能的情况。

2 Background

逆过程(reverse process)，被定义为一个马尔可夫链，从$p({\mathbf{x}}_T)=\mathcal{N}({\mathbf{x}}_T;0,\mathbf{I})$开始逐步学习每一次的高斯变换：
$$p_{\theta }({\mathbf{x}}_{0:T}):=p({\mathbf{x}}_T)\prod _{t=1}^T{p}_{\theta }({\mathbf{x}}_{t-1}|{\mathbf{x}}_t)$$
$$p_{\theta }({\mathbf{x}}_{t-1}|{\mathbf{x}}_t):=\mathcal{N}({\mathbf{x}}_{t-1};{\mu }_{\theta }({\mathbf{x}}_t,t),{\Sigma }_{\theta }({\mathbf{x}}_t,t))$$
扩散模型的前向过程被固定到一个马尔可夫链熵，该马尔可夫链根据${\beta }_1,{\beta }_2,\cdots ,{\beta }_t$逐渐向数据中添加高斯噪声：
$$q({\mathbf{x}}_{1:T}|{\mathbf{x}}_0):=\prod _{t=1}^{T}q({\mathbf{x}}_t|{\mathbf{x}}_{t-1})$$
$$q({\mathbf{x}}_t|{\mathbf{x}}_{t-1}):=\mathcal{N}({\mathbf{x}}_t;\sqrt{1-{\beta }_t}{\mathbf{x}}_{t-1},{\beta }_t\mathbf{I})$$
通过优化负对数似然的通常边界进行训练。（公式3，没看懂！）

正向过程的${\beta }_t$可以通过重参数化技巧来学习或作为超参数保持不变。而反向过程的表达能力部分通过$p_{\theta }({\mathbf{x}}_{t-1}|{\mathbf{x}}_t)$中的高斯条件的选择来保证。在$\beta$比较小时，两个过程的函数形式相同。正向过程的显著特点是它允许在任意时间$t$内以闭合形式采样${\mathbf{x}}_t$。使用符号${\alpha }_t:=1-{\beta }_t$、${\bar{\alpha }}_t:={\prod }_{s=1}^t{\alpha }_s$，我们有：
$$q({\mathbf{x}}_t|{\mathbf{x}}_0)=\mathcal{N}({\mathbf{x}}_t;\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0,(1-{\bar{\alpha }}_t)\mathbf{I})$$
因此，通过随机梯度下降优化$L$的随机项，可以实现有效的训练。可以通过改写Eq. 3进一步改进方差的减少。

正向公式推导

在一次加噪中，生成的噪声图像$ϵ$服从标准正态分布。混合图像与噪声图像时，使用下面公式计算混合后的图像像素通道值：
$$x_t=\sqrt{{\beta }_t}\times {ϵ}_t+\sqrt{1-{\beta }_t}\times x_{t-1}$$
其中$0<{\beta }_1<{\beta }_2<\cdots <{\beta }_{t-1}<{\beta }_t<1$。令${\alpha }_t=1-{\beta }_t$，于是写作：
$$x_t=\sqrt{1-{\alpha }_t}\times {ϵ}_t+\sqrt{{\alpha }_t}\times x_{t-1}$$
又有
$$x_{t-1}=\sqrt{1-{\alpha }_{t-1}}\times {ϵ}_{t-1}+\sqrt{{\alpha }_{t-1}}\times x_{t-2}$$
代入上式得到
$$x_t=\sqrt{{\alpha }_t(1-{\alpha }_{t-1})}\times {ϵ}_{t-1}+\sqrt{1-{\alpha }_t}\times {ϵ}_t+\sqrt{{\alpha }_t{\alpha }_{t-1}}\times x_{t-2}$$
式中第一项服从$\mathcal{N}(0,{\alpha }_t(1-{\alpha }_{t-1}))$，第二项服从$\mathcal{N}(0,1-{\alpha }_t)$，根据正态分布的性质，有$\mathcal{N}({\mu }_1,{\sigma }_1^2)+\mathcal{N}({\mu }_2,{\sigma }_2^2)=\mathcal{N}({\mu }_1+{\mu }_2,{\sigma }_1^2+{\sigma }_2^2)$，将两个噪声叠加后的噪声服从$\mathcal{N}(0,1-{\alpha }_t{\alpha }_{t-1})$。
由此$x_t$可以直接由$x_{t-2}$加噪而来：
$$x_t=\sqrt{1-{\alpha }_t{\alpha }_{t-1}}\times ϵ+\sqrt{{\alpha }_t{\alpha }_{t-1}}\times x_{t-2}$$
同理，$x_t$可以直接由$x_{t-3}$加噪而来：
$$x_t=\sqrt{1-{\alpha }_t{\alpha }_{t-1}{\alpha }_{t-2}}\times ϵ+\sqrt{{\alpha }_t{\alpha }_{t-1}{\alpha }_{t-2}}\times x_{t-2}$$
令${\bar{\alpha }}_t={\alpha }_t{\alpha }_{t-1}\cdots {\alpha }_1$，归纳可得
$$x_t=\sqrt{1-{\bar{\alpha }}_t}\times ϵ+\sqrt{{\bar{\alpha }}_t}\times x_0$$

反向过程推导

在一次反向过程去噪$x_t$到$x_{t-1}$中，需要知道得知正向过程中使用的随机噪声才能够正确去噪，而这一步是随机过程，可以通过求解在$x_t$的条件下变成$x_{t-1}$的概率$P(x_{t-1}|x_t)$来推测噪声。
$$P(x_{t-1}|x_t)=\frac{P(x_t|x_{t-1})P(x_{t-1})}{P(x_t)}$$
式中$P(x_{t-1})$和$P(x_t)$为从$x_0$到$x_{t-1}$和$x_t$的概率。该过程在马尔可夫链上进行，因此等价于
$$P(x_{t-1}|x_t,x_0)=\frac{P(x_t|x_{t-1},x_0)P(x_{t-1}|x_0)}{P(x_t|x_0)}$$
又因有下式
$$x_t=\sqrt{1-{\alpha }_t}\times {ϵ}_t+\sqrt{{\alpha }_t}\times x_{t-1}$$
其中${ϵ}_t$服从标准正态分布，于是$P(x_t|x_{t-1})$服从$\mathcal{N}(\sqrt{{\alpha }_t}{x}_{t-1},1-{\alpha }_t)$。
又因有下式
$$x_t=\sqrt{1-{\bar{\alpha }}_t}\times ϵ+\sqrt{{\bar{\alpha }}_t}\times x_0$$
其中$ϵ$服从标准正态分布，于是$P(x_t)$服从$\mathcal{N}(\sqrt{{\bar{\alpha }}_t}{x}_0,1-{\bar{\alpha }}_t)$。同理可得$P(x_{t-1})$服从$\mathcal{N}(\sqrt{{\bar{\alpha }}_{t-1}}{x}_0,1-{\bar{\alpha }}_{t-1})$。将三个正态分布展开后代入式中，化简后得到
$$P(x_{t-1}|x_t,x_0)\sim \mathcal{N}(\frac{\sqrt{{\alpha }_t}(1-{\bar{\alpha }}_{t-1})}{1-{\bar{\alpha }}_t}{x}_t+\frac{\sqrt{{\bar{\alpha }}_{t-1}}(1-{\alpha }_t)}{1-{\bar{\alpha }}_t}{x}_0,(\frac{\sqrt{1-{\alpha }_t}\sqrt{1-{\bar{\alpha }}_{t-1}}}{\sqrt{1-{\bar{\alpha }}_t}}{)}^2)$$
通过上面式子得到$x_0=\frac{x_t-\sqrt{1-{\bar{\alpha }}_t}\times ϵ}{\sqrt{{\bar{\alpha }}_t}}$，代入得到
$$P(x_{t-1}|x_t,x_0)\sim \mathcal{N}(\frac{\sqrt{{\alpha }_t}(1-{\bar{\alpha }}_{t-1})}{1-{\bar{\alpha }}_t}{x}_t+\frac{\sqrt{{\bar{\alpha }}_{t-1}}(1-{\alpha }_t)}{1-{\bar{\alpha }}_t}\times \frac{x_t-\sqrt{1-{\bar{\alpha }}_t}\times ϵ}{\sqrt{{\bar{\alpha }}_t}},(\frac{\sqrt{1-{\alpha }_t}\sqrt{1-{\bar{\alpha }}_{t-1}}}{\sqrt{1-{\bar{\alpha }}_t}}{)}^2)$$

只要获得从$x_0$到$x_t$加入的噪声$ϵ$，即可得到概率分布$P(x_{t-1}|x_t)$。可以用神经网络训练每个图像基于$x_0$图像加入的噪声$ϵ$，于是得到概率分布，通过概率分布随机采样，即可得到前一时刻的图像。

3 Diffusion models and denoising autoencoders

扩散模型允许在实现时有大量的自由度，必须选择正向过程的${\beta }_t$和反向过程的模型结构和高斯分布参数化。
本文为了在扩散模型和去噪得分匹配(3.2节)之间建立了一个新的显式联系，从而得到了一个简化的、加权的扩散模型变分界限目标(3.4节)。最后，模型设计通过简单性和实证结果证明是合理的(4节)。本文讨论是按照公式中的项来分类的。

3.1 前向过程和$L_T$

将前向过程中使用的${\beta }_t$固定为常量，因此在近似后验$q$中没有可以学习的参数，故$L_T$在学习过程中是一个常数，可以忽略。

3.2 逆向过程和$L_{1:T-1}$

现在讨论$p_{\theta }({\mathbf{x}}_{t-1}|{\mathbf{x}}_t)=\mathcal{N}({\mathbf{x}}_{t-1};{\mu }_{\theta }({\mathbf{x}}_t,t),{\sum }_{\theta }({\mathbf{x}}_t,t))$，此时$1<t\le T$。

(中间一串看不懂)

总之，我们可以训练反向过程的均值函数逼近器${\mu }_{t}heta$去预测$\widetilde{{\mu }_t}$，或者修改其参数化，训练它去预测$ϵ$。（预测${\mathbf{x}}_0$也是可能的，但是在早期实验中发现会导致样本质量变差）
我们证明了$ϵ$-预测参数化既类似于Langevin动力学，又将扩散模型的变分边界(variational bounds)简化到一个类似去噪得分匹配的目标。（？）
尽管如此，这只是$p_{\theta }({\mathbf{x}}_{t-1}|{\mathbf{x}}_t)$，所以我们在第4节对预测$ϵ$和预测${\tilde{\mu }}_t$的地方对此进行验证。

4 Experiments

本文所有实验设置$T=1000$，使得采样过程中需要的神经网络评估次数与之前的工作相匹配。
前向过程中的$\beta$的参数设置：从${\beta }_1=10^{-4}$到${\beta }_t=0.02$线性增加。
这些常数被选择与被放缩到$[-1,1]$的数据相比较小，目的是确保反向和正向过程具有大致相同的函数形式，同时保持在${\mathbf{x}}_T$处的信噪比尽可能小，尽可能靠近$\mathcal{N}(0,\mathbf{I})$，即对于每一维有$D_{KL}(q({\mathbf{x}}_T|{\mathbf{x}}_0)||\mathcal{N}(0,\mathbf{I}))\approx 10^{-5}$。

为了表示反向过程，本文使用类似于unmasked PixelCNN++的U-Net主干网，并在整个【66】中进行group normalization。参数是跨时间共享的，使用Transformer正弦位置嵌入指定给网络。(Embedding)
本文在16x16特征图分辨率下使用自注意力。

4.1 样本质量

表1：CIFAR10 结果。NLL以bit/dim表示。
正如预期的那样，在真实变分界限上训练我们的模型比在简化目标上训练产生更好的无损码长，但后者产生最好的样本质量。

4.2 反向过程参数化和训练目标消融

表2：无条件 CIFAR10 反向过程参数化(parameterization)和训练目标消融(training objective ablation)。空白条目训练不稳定，并且生成分数超出范围的不良样本。
在表 2 中，我们显示了反向过程参数化和训练目标对样本质量的影响。我们发现，预测$\tilde{\mu }$的baseline选项只有在真正的变分界限上训练时才能很好地工作，而不是未加权的均方误差。
与固定$\beta$相比，学习反向过程的$\beta$（通过引入一个参数化的对角线(?)${\Sigma }_{\theta }({\mathbf{x}}_t)$学习），会导致不稳定的训练和较差的样本质量。
当用固定的$\beta$的变分界训练时，预测的效果和预测$\tilde{\mu }$一样好。 当用我们的简化目标训练时，预测效果要好得多。

4.3 Progressive coding 递增式编码

表1展示了我们CIFAR10的无损编码。训练集与测试集之间的跨域最多为每一维0.03比特，这和其他基于似然的模型的差距相当，表明我们的扩散模型没有过拟合。
我们的无损码长优于基于能量的模型和使用退火重要性采样的得分匹配的大估计值。但他们与其他的基于似然的生成模型没有竞争力。

我们生成的样本是高质量的，得出结论：扩散模型有一个感性的偏见，使它们成为优秀的有损压缩机(lossy compressors)。
将变分约束项$L_1+\cdots +L_T$作为码率，令$L_0$作为失真，我们的CIFAR10模型能够产生最高质量的样本，码率为1.78bit/dim，失真为1.97bit/dim。在0到255尺度上的均方根误差为0.95。超过一半的无损码长描述了不可感知的失真。

4.3.1 Progressive lossy compression 渐进式有损压缩

算法3

算法4
我们可以通过引入一个渐进式有损压缩来镜像方程（原文Eq.5），以此深入探究我们模型的率失真行为(rate-distortion behavior)。参考算法3和算法4，该算法假设有一个过程，例如最小随机编码(minimal random coding)，对于任意的分布$p$和$q$，可以平均地使用近似$D_{KL}(q(\mathbf{x})||p(\mathbf{x}))$比特传输一个样本$\mathbf{x}\sim q(\mathbf{x})$。当应用于${\mathbf{x}}_0\sim q({\mathbf{x}}_0)$，算法3和算法4使用与Eq.5同等总期望码长依次发送${\mathbf{x}}_T,\cdots ,{\mathbf{x}}_0$。

接收者在任意时刻$t$，具有部分信息${\mathbf{x}}_t$完全可得且可以逐步估计：
$${\mathbf{x}}_0\approx {\mathbf{x}}_0=({\mathbf{x}}_t-\sqrt{1-{\bar{\alpha }}_t}{ϵ}_{\theta }({\mathbf{x}}_t))/\sqrt{{\bar{\alpha }}_t}$$图5展示CIFAR10测试集上的结果率失真图。

图5：无条件CIFAR10测试集率失真。失真在$[0,255]$尺度上以均方根误差度量。

4.3.2 Progressive generation 渐进式生成

本文还运行了一个渐进的无条件生成过程，由随机位的渐进解压给出。即，使用算法2从反向过程采样的同时，预测反向过程的结果${\hat{\mathbf{x}}}_0$。

算法2

图6展示了反向过程得到的${\hat{\mathbf{x}}}_0$的样本质量，大尺度图像特征最先出现，细节特征最后出现。

图6

图7给出了${\mathbf{x}}_0\sim p_{\theta }({\mathbf{x}}_0|{\mathbf{x}}_t)$的随机预测，其中${\mathbf{x}}_t$对不同的$t$是冻结的(frozen)。当$t$很小时，除细节外的所有特征都被保留，当$t$较大时仅保留大尺度特征。也许这些都是概念压缩的暗示。

图7：条件相同时 Celeb A-HQ 256x256样本共享高级属性。右下角的象限是$x_t$，其他的象限来自$p_{\theta }({\mathbf{x}}_0|{\mathbf{x}}_t)$的样本。

4.4 Interpolation 内插法

利用$q$作为随机编码器，将源图像${\mathbf{x}}_0,{\mathbf{x}}_0^{{}^{\prime }}\sim q({\mathbf{x}}_0)$插值到隐空间，然后通过反向过程将线性插值后的隐空间${\bar{\mathbf{x}}}_t=(1-\lambda ){\mathbf{x}}_0+\lambda {\mathbf{x}}_0^{{}^{\prime }}$解码到图像空间。${\bar{\mathbf{x}}}_0\sim p({\mathbf{x}}_0|\overline{{\mathbf{x}}_t})$。
实际上，我们使用反向过程从线性插值损坏的源图像版本中去除伪影，如图8左所示。对不同的$\lambda$值固定噪声，使得${\mathbf{x}}_t$和${\mathbf{x}}_t^{{}^{\prime }}$保持不变。图8右展示了原始CelebA-HQ 256x256图像(t=500)的插值与重建。

图8：使用CelebA-HQ 256x256图像进行500步扩散的内插方法。

反向过程产生高质量的重建，并且合理的插值可以平滑地改变诸如姿势、肤色、发型、表情和背景等属性，而不是眼镜。较大的t导致更粗糙和更多样的插值，在t = 1000时有新的样本。

5 Related Works

6 Conclusion

使用扩散模型提供了高质量的图像样本，发现了扩散模型和变分推理之间的联系，用于训练马尔可夫链、去噪得分匹配和退火Langevin动力学（以及基于能量的扩展模型）、自回归模型和渐进式有损压缩。由于扩散模型似乎对图像数据具有极好的归纳偏差，作者期待研究它们在数据模态中的效用，并作为其他类型的生成模型和机器学习系统的组成部分。