采样算法一：去噪扩散概率模型（DDPM）采样算法详解

参考

https://arxiv.org/pdf/2006.11239

一、背景知识

扩散模型（Diffusion Models） 是一种基于概率论的生成模型，通过模拟数据的扩散和逆扩散过程生成样本。核心思想分为两个阶段：

• 前向扩散过程：逐步向数据中添加噪声，直到数据变为纯高斯噪声。
• 反向去噪过程：学习如何逐步去除噪声，从噪声中恢复原始数据。

DDPM（Denoising Diffusion Probabilistic Models） 是一种经典的扩散模型，其采样算法是反向去噪过程的核心。

二、前向扩散过程

前向过程通过固定方差调度（Variance Schedule）逐步破坏数据，定义为马尔可夫链：

1. 公式定义
   每一步的噪声添加公式为：
   $$q(x_t|x_{t-1})=\mathcal{N}(x_t;\sqrt{1-{\beta }_t}{x}_{t-1},{\beta }_t\mathbf{I})$$
   其中：

   • ${\beta }_t\in (0,1)$ 是预先定义的噪声调度参数。
   • ${\alpha }_t=1-{\beta }_t$,${\bar{\alpha }}_t={\prod }_{i=1}^t{\alpha }_i$.

2. 任意时刻 ( x_t ) 的闭式解
   通过重参数化技巧，可直接从 $x_0$ 计算 $x_t$：
   $$x_t=\sqrt{{\bar{\alpha }}_t}{x}_0+\sqrt{1-{\bar{\alpha }}_t}ϵ,ϵ\sim \mathcal{N}(0,\mathbf{I})$$

三、反向去噪过程

反向过程通过神经网络学习逐步去噪，定义为另一个马尔可夫链：

1. 反向条件分布
   假设每一步服从高斯分布：
   $$p_{\theta }(x_{t-1}|x_t)=\mathcal{N}(x_{t-1};{\mu }_{\theta }(x_t,t),{\Sigma }_{\theta }(x_t,t))$$

   • ${\mu }_{\theta }$ 和 ${\Sigma }_{\theta }$ 由神经网络预测。

2. 关键简化
   DDPM 固定方差为${\sigma }_t^2={\beta }_t$，仅需预测均值 ${\mu }_{\theta }$。通过推导可得：
   $${\mu }_{\theta }(x_t,t)=\frac{1}{\sqrt{{\alpha }_t}}\left(x_t-\frac{{\beta }_t}{\sqrt{1-{\bar{\alpha }}_t}}{ϵ}_{\theta }(x_t,t)\right)$$

   • 核心任务：训练神经网络 ( \epsilon_\theta ) 预测噪声 ( \epsilon )。

四、采样算法步骤

从噪声 $x_T\sim \mathcal{N}(0,\mathbf{I})$ 出发，逐步生成数据：

1. 输入：训练好的噪声预测模型 ${ϵ}_{\theta }$，时间步总数 $T$，方差调度 { β t } \{\beta_t\} {βt​}。
2. 初始化：采样$x_T\sim \mathcal{N}(0,\mathbf{I})$。
3. 迭代去噪（$t=T,T-1,\dots ,1$）：
   • 预测噪声：${ϵ}_t={ϵ}_{\theta }(x_t,t)$
   • 计算均值：
     $${\mu }_t=\frac{1}{\sqrt{{\alpha }_t}}\left(x_t-\frac{{\beta }_t}{\sqrt{1-{\bar{\alpha }}_t}}{ϵ}_t\right)$$
   • 采样前一时刻：
     $$x_{t-1}={\mu }_t+{\sigma }_{t}z,z\sim \mathcal{N}(0,\mathbf{I})$$
     • 当 $t=1$时，$z=0$（不添加噪声）。
4. 输出：$x_0$ 为生成的数据。

五、数学推导关键点

1. 反向过程均值的推导
   通过最小化变分下界（ELBO）中的 KL 散度项，可得：
   $${\mu }_{\theta }=\frac{\sqrt{{\alpha }_t}(1-{\bar{\alpha }}_{t-1})}{1-{\bar{\alpha }}_t}{x}_t+\frac{\sqrt{{\bar{\alpha }}_{t-1}}{\beta }_t}{1-{\bar{\alpha }}_t}{\hat{x}}_0$$
   代入 ${\hat{x}}_0=\frac{x_t-\sqrt{1-{\bar{\alpha }}_t}{ϵ}_{\theta }}{\sqrt{{\bar{\alpha }}_t}}$，化简后得到均值公式。

2. 噪声预测的直观解释
   模型 ${ϵ}_{\theta }$ 预测的是前向过程中添加到 $x_0$ 的噪声，通过移除该噪声可逐步恢复数据。

六、伪代码示例

def ddpm_sample(model, T, betas):
    alpha = 1 - betas
    alpha_bar = np.cumprod(alpha)
    
    x = torch.randn_like(data)  # x_T ~ N(0, I)
    for t in range(T, 0, -1):
        # 预测噪声
        epsilon = model(x, t)
        # 计算均值和方差
        mu = (x - (betas[t]/np.sqrt(1-alpha_bar[t])) * epsilon) / np.sqrt(alpha[t])
        if t > 1:
            z = torch.randn_like(x)
        else:
            z = 0
        # 更新x
        x = mu + np.sqrt(betas[t]) * z
    return x