扩散模型概述

核心思想

1. 正向过程：逐步对一张图像添加噪声，直到它完全变成一个纯噪声图像。这个过程是固定的，不涉及任何学习。
2. 逆向过程：训练一个神经网络，学习如何将上述过程逆转，即从纯噪声中逐步还原出一张清晰的图像。

1. 正向过程

过程描述：

• 我们从一张真实的训练图像 $x_0$$x_0$x_(0)x_0$x_0$ 开始。
• 我们一步步地对其添加高斯噪声。在每一步 $t$$t$tt$t$（从 1 到 T），我们都会根据一个预定义的方差表 ${\beta }_t$${\beta }_t$beta _(t)\beta_t${\beta }_t$ 来添加噪声。
• 经过 T 步之后，原始图像 $x_0$$x_0$x_(0)x_0$x_0$ 就变成了一个几乎完全无法辨认的、符合标准高斯分布的噪声 $x_T$$x_T$x_(T)x_T$x_T$。

• $ϵ$$ϵ$epsilon\epsilon$ϵ$ 是标准高斯噪声 $\mathcal{N}(0,I)$$\mathcal{N}(0,I)$N(0,I)\mathcal{N}(0, I)$\mathcal{N}(0,I)$。
• ${\alpha }_t=1-{\beta }_t$${\alpha }_t=1-{\beta }_t$alpha _(t)=1-beta _(t)\alpha_t = 1 - \beta_t${\alpha }_t=1-{\beta }_t$，${\overline{\alpha }}_t=\prod _{i=1}^t{\alpha }_i$${\overline{\alpha }}_t=\prod _{i=1}^t {\alpha }_i$bar(alpha)_(t)=prod_(i=1)^(t)alpha _(i)\bar{\alpha}_t = \prod_{i=1}^{t} \alpha_i${\overline{\alpha }}_t=\prod _{i=1}^t{\alpha }_i$。
• 这个公式是关键，它允许我们在任意时间步 $t$$t$tt$t$ 直接采样加噪后的图像，而无需一步步迭代。

在训练和应用中的角色：

2. 逆向过程

过程描述：

• 我们从纯噪声 $x_T\sim \mathcal{N}(0,I)$$x_T\sim \mathcal{N}(0,I)$x_(T)∼N(0,I)x_T \sim \mathcal{N}(0, I)$x_T\sim \mathcal{N}(0,I)$ 开始。
• 我们一步步地（从 T 到 1）去除噪声，每一步都让图像变得更清晰一点。
• 最终，在经过 T 步去噪后，我们得到一张清晰的图像 $x_0$$x_0$x_(0)x_0$x_0$。

解决方案：训练一个神经网络来预测噪声

• 输入：当前时刻的噪声图像 $x_t$$x_t$x_(t)x_t$x_t$ 和当前时间步 $t$$t$tt$t$。
• 输出：预测的正向过程中所添加的噪声 ${ϵ}_{\theta }(x_t,t)$${ϵ}_{\theta }(x_t,t)$epsilon _(theta)(x_(t),t)\epsilon_\theta(x_t, t)${ϵ}_{\theta }(x_t,t)$。
• 损失函数：预测的噪声和真实添加的噪声之间的均方误差。$$L={\mathbb{E}}_{t,x_0,ϵ}[\Vert ϵ-{ϵ}_{\theta }(x_t,t){\Vert }^2]$$$$L={\mathbb{E}}_{t,x_0,ϵ}\left[\Vert ϵ-{ϵ}_{\theta }(x_t,t){\Vert }^2\right]$$L=E_(t,x_(0),epsilon)[||epsilon-epsilon _(theta)(x_(t),t)||^(2)]L = \mathbb{E}_{t, x_0, \epsilon} \left[ \| \epsilon - \epsilon_\theta(x_t, t) \|^2 \right]$$L={\mathbb{E}}_{t,x_0,ϵ}[\Vert ϵ-{ϵ}_{\theta }(x_t,t){\Vert }^2]$$

在训练和应用中的角色：

总结与对比