DDIM: DENOISING DIFFUSION IMPLICIT MODELS

DDIM: DENOISING DIFFUSION IMPLICIT MODELS

  • 去噪扩散隐式模型
    • DDIM预测噪声
    • 生成过程
  • 实验

论文题目:Denoising Diffusion Implicit Models (DDIM)
论文来源:ICLR 2021
论文地址:https://arxiv.org/pdf/2010.02502.pdf
论文代码:https://github.com/ermongroup/ddim

去噪扩散隐式模型

在这里插入图片描述

DDIM: DENOISING DIFFUSION IMPLICIT MODELS_第1张图片

DDPM缺点:
反向过程需要一步步推理(一般大于1000步),生成样本速度慢
DDIM改进:
不再限制扩散过程为马尔可夫链,可采用更小的采样步数加速生成样本过程
随机噪音生成样本的过程是一个确定的过程(中间没有加入随机噪音)

DDIM预测噪声

在这里插入图片描述
根据独立高斯分布的可加性:
DDIM: DENOISING DIFFUSION IMPLICIT MODELS_第2张图片
将上述公式展开为:
DDIM: DENOISING DIFFUSION IMPLICIT MODELS_第3张图片
相比于DDPM,符号的变化:
在这里插入图片描述
DDPM和DDIM的区别:
在这里插入图片描述
DDIM:
将公式在这里插入图片描述
中的X0带入,得到:

DDIM: DENOISING DIFFUSION IMPLICIT MODELS_第4张图片

生成过程

求X0
在这里插入图片描述
总公式为:
在这里插入图片描述

实验

DDIM: DENOISING DIFFUSION IMPLICIT MODELS_第5张图片

伊塔= 0 为DDIM
伊塔 = 1 为DDPM

你可能感兴趣的:(论文精读,论文阅读)