Flow-matching论文阅读

我首先需要仔细阅读用户指令，明确用户的需求。用户希望我逐段翻译一篇关于流匹配生成模型的文章，并且在翻译的过程中，总结文章的主要证明公式要点。这意味着我的任务不仅仅是简单的翻译，还需要理解文章的内容，并且提取出文章中重要的数学公式，进行概括和提炼。

为了完成这个任务，我计划按文章的段落顺序进行翻译。在翻译每一段落的同时，我会识别出该段落的核心思想和关键信息。对于文章中出现的数学公式，我会特别关注，因为这些公式通常是文章证明和结论的核心支撑。

在翻译过程中，我会将文章的结构大致划分为几个部分，例如引言、预备知识、方法介绍（流匹配）、实验结果和相关工作等。这样可以帮助我更好地组织翻译内容，并确保总结的要点能够覆盖文章的主要方面。

对于每个公式，我需要理解其含义和作用。例如，在连续归一化流的预备知识部分，文章给出了概率密度路径和向量场的定义，以及如何通过常微分方程构建流。我会记录下这些基本概念和公式，因为它们是后续流匹配方法的基础。

在流匹配方法部分，文章提出了流匹配目标函数，并解释了如何通过条件概率路径和向量场来构建目标函数。我会重点关注流匹配目标函数的定义，以及条件流匹配目标函数的推导过程。同时，文章还讨论了高斯条件概率路径的特殊情况，包括扩散条件向量场和最优传输条件向量场。我会详细记录这些不同类型的条件概率路径及其对应的向量场公式，因为这些是流匹配方法的重要组成部分。

在实验结果部分，文章展示了流匹配模型在不同数据集上的性能表现。我会关注实验设置、评估指标以及实验结果，并在总结中概括这些关键信息，例如模型在图像质量和计算效率方面的优势。

最后，我会将翻译完成的文章和总结的证明公式要点整合在一起，确保翻译准确流畅，总结简洁明了，并且能够全面反映文章的主要内容和贡献。我会检查总结的要点是否涵盖了文章的关键证明公式，例如流匹配目标函数、条件流匹配目标函数以及高斯条件概率路径的向量场公式等。通过这样的组织和整理，最终生成符合用户指令的答案。

翻译及总结

1. 引言

深度生成模型是一类旨在估计和采样未知数据分布的深度学习算法。近年来，生成模型的显著进展主要得益于基于扩散模型的可扩展和相对稳定的训练。然而，对简单扩散过程的依赖导致了采样概率路径的空间受限，从而导致非常长的训练时间和需要采用专门的方法来实现高效采样。

本文考虑了连续归一化流（CNFs）的一般确定性框架。CNFs能够建模任意的概率路径，并且已知可以涵盖扩散过程所建模的概率路径。然而，除了可以通过去噪分数匹配有效训练的扩散之外，目前还没有可扩展的CNF训练算法。

本文的目标是提出流匹配（FM），这是一种用于训练CNF模型的高效无模拟方法，允许采用一般的概率路径来监督CNF训练。重要的是，FM打破了可扩展CNF训练的障碍，超越了扩散，并绕过了对扩散过程的推理，直接处理概率路径。

2. 预备知识：连续归一化流

设$R^d$表示数据空间，其中数据点$x=\left(x^1,\dots ,x^d\right)\in R^d$。本文使用的两个重要对象是：概率密度路径$p:[0,1]\times R^d\to R>0$，这是一个时间相关的概率密度函数，即$\int p_t(x)dx=1$；以及时变向量场$v:[0,1]\times R^d\to R^d$。向量场$v_t$可用于构建时变微分同胚映射，称为流$\varphi :[0,1]\times R^d\to R^d$，通过常微分方程（ODE）定义：

$$\frac{d}{dt}{\varphi }_t(x)=v_t\left({\varphi }_t(x)\right)$$

$${\varphi }_0(x)=x$$

Chen等人（2018）建议使用神经网络$v_t(x;\theta )$对向量场$v_t$进行建模，从而形成连续归一化流（CNF）。CNF用于通过前推方程将简单先验密度$p_0$重塑为更复杂的密度$p_1$：

$$p_t={\left[{\varphi }_t\right]}_{\ast }{p}_0$$

其中前推（或变量替换）算子$\ast$定义为：

$${\left[{\varphi }_t\right]}_{\ast }{p}_0(x)=p_0\left({\varphi }_t^{-1}(x)\right)\det \left[\frac{\partial {\varphi }_t^{-1}}{\partial x}(x)\right].$$

如果向量场$v_t$满足方程3，则称其生成概率密度路径$p_t$。测试向量场是否生成概率路径的一个实用方法是使用连续性方程，这是我们证明中的一个关键组成部分。

3. 流匹配

设$x_1$表示根据某个未知数据分布$q\left(x_1\right)$分布的随机变量。假设我们只能访问来自$q\left(x_1\right)$的数据样本，但无法访问密度函数本身。此外，设$p_t$是一个概率路径，使得$p_0=p$是一个简单分布，例如标准正态分布$p(x)=N(x|0,I)$，并且$p_1$近似等于数据分布$q$。流匹配目标旨在匹配此目标概率路径，从而允许从$p_0$流向$p_1$。

给定目标概率密度路径$p_t(x)$和相应的生成$p_t(x)$的向量场$u_t(x)$，流匹配（FM）目标定义为：

$${\mathcal{L}}_{FM}(\theta )=E_{t,p_t(x)}{\Vert v_t(x)-u_t(x)\Vert }^2,$$

其中$\theta$表示CNF向量场$v_t$的可学习参数，$t\sim \mathcal{U}[0,1]$，$x\sim p_t(x)$。简而言之，FM损失通过神经网络$v_t$回归向量场$u_t$。当损失为零时，学习的CNF模型将生成$p_t(x)$。

流匹配是一个简单且有吸引力的目标，但单独使用时在实际中是不可行的，因为我们没有任何关于适当$p_t$和$u_t$的先验知识。有许多选择可以满足$p_1(x)\approx q(x)$的概率路径，更重要的是，我们通常无法获得生成所需$p_t$的封闭形式$u_t$。本文展示了如何通过仅定义在样本上的条件概率路径和向量场来构建$p_t$和$u_t$，并提供了一个更易处理的流匹配目标。

3.1 从条件概率路径和向量场构建$p_t,u_t$

构建目标概率路径的一种简单方法是通过简单概率路径的混合：给定特定数据样本$x_1$，我们表示$p_t\left(x\mid x_1\right)$为一个条件概率路径，满足$p_0\left(x\mid x_1\right)=p(x)$，并在$t=1$时设计$p_1\left(x\mid x_1\right)$为集中在$x=x_1$附近的分布。通过对$q\left(x_1\right)$边缘化条件概率路径，得到边缘概率路径：

$$p_t(x)=\int p_t\left(x\mid x_1\right)q\left(x_1\right)d{x}_1,$$

其中在$t=1$时，边缘概率$p_1$是近似于数据分布$q$的混合分布：

$$p_1(x)=\int p_1\left(x\mid x_1\right)q\left(x_1\right)d{x}_1\approx q(x).$$

我们还通过以下方式“边缘化”条件向量场来定义边缘向量场：

$$u_t(x)=\int u_t\left(x\mid x_1\right)\frac{p_t\left(x\mid x_1\right)q\left(x_1\right)}{p_t(x)}dx$$

其中$u_t\left(\cdot \mid x_1\right)$是生成$p_t\left(\cdot \mid x_1\right)$的条件向量场。我们的第一个关键观察是：

边缘向量场（方程8）生成边缘概率路径（方程6）。

这提供了条件VF（生成条件概率路径的那些）和边缘VF（生成边缘概率路径的那些）之间的意外联系。这使得我们可以将未知且难以处理的边缘VF分解为更简单的条件VF，这些条件VF仅依赖于单个数据样本。

3.2 条件流匹配

由于边缘概率路径和VF（方程6和8）中的积分不可行，因此仍然难以计算$u_t$，从而难以计算原始流匹配目标的非偏估计量。相反，我们提出了一个更简单的目标，即条件流匹配（CFM）目标：

$${\mathcal{L}}_{\text{CFM}}(\theta )=E_{t,q\left(x_1\right),p_t\left(x\mid x_1\right)}{\Vert v_t(x)-u_t\left(x\mid x_1\right)\Vert }^2,$$

其中$t\sim \mathcal{U}[0,1],x_1\sim q\left(x_1\right)$，现在$x\sim p_t\left(x\mid x_1\right)$。与FM目标不同，只要可以从$p_t\left(x\mid x_1\right)$有效采样并计算$u_t\left(x\mid x_1\right)$，CFM目标就可以轻松获得无偏估计量。因此，优化CFM目标在期望上等价于优化FM目标，从而允许我们训练CNF生成边缘概率路径$p_t$，而无需访问边缘概率路径或边缘向量场。

4. 条件概率路径和向量场

条件流匹配目标可以与任何选择的条件概率路径和条件向量场一起使用。本文讨论了一般高斯条件概率路径族的构建，即考虑形式为：

$$p_t\left(x\mid x_1\right)=\mathcal{N}\left(x\mid {\mu }_t\left(x_1\right),{\sigma }_t{\left(x_1\right)}^{2}I\right),$$

其中$\mu :[0,1]\times R^d\to R^d$是高斯分布的时间相关均值，而$\sigma :[0,1]\times R\to R_{>0}$描述时间相关的标量标准差。我们设置${\mu }_0\left(x_1\right)=0$和${\sigma }_0\left(x_1\right)=1$，使得所有条件概率路径在$t=0$时收敛到相同的标准高斯噪声分布$p(x)=\mathcal{N}(x|0,I)$。然后设置${\mu }_1\left(x_1\right)=x_1$和${\sigma }_1\left(x_1\right)={\sigma }_{\min }$，使得$p_1\left(x\mid x_1\right)$是在$x_1$附近集中的高斯分布。

存在无数生成特定概率路径的向量场，但大多数向量场由于包含保持基础分布不变的成分而导致不必要的额外计算。我们决定使用对应于高斯分布的正则变换的最简单向量场。具体来说，考虑条件流（以$x_1$为条件）：

$${\psi }_t(x)={\sigma }_t\left(x_1\right)x+{\mu }_t\left(x_1\right).$$

当$x$服从标准高斯分布时，${\psi }_t(x)$是将噪声分布$p_0\left(x\mid x_1\right)=p(x)$映射到具有均值${\mu }_t\left(x_1\right)$和标准差${\sigma }_t\left(x_1\right)$的高斯分布的仿射变换。即，根据方程4，${\psi }_t$将噪声分布推前到$p_t\left(x\mid x_1\right)$：

$$\left[{\psi }_t\right]\ast p(x)=p_t\left(x\mid x_1\right).$$

此流提供了一个生成条件概率路径的向量场：

$$\frac{d}{dt}{\psi }_t(x)=u_t\left({\psi }_t(x)\mid x_1\right)$$

重新参数化$p_t\left(x\mid x_1\right)$仅涉及$x_0$并将方程13代入CFM损失，我们得到：

$${\mathcal{L}}_{\text{CFM}}(\theta )=E_{t,q(x_1),p(x_0)}{\Vert v_t\left({\psi }_t\left(x_0\right)\right)-\frac{d}{dt}{\psi }_t\left(x_0\right)\Vert }^2.$$

由于${\psi }_t$是一个简单的可逆仿射映射，我们可以用封闭形式求解$u_t$。设$f^{\prime }$表示对时间的导数，即$f^{\prime }=\frac{d}{dt}f$。

定理3. 设$p_t\left(x\mid x_1\right)$为如方程10所述的高斯概率路径，${\psi }_t$为其对应的流映射。则定义${\psi }_t$的唯一向量场具有形式：

$$u_t\left(x\mid x_1\right)=\frac{{\sigma }_t^{\prime }\left(x_1\right)}{{\sigma }_t\left(x_1\right)}\left(x-{\mu }_t\left(x_1\right)\right)+{\mu }_t^{\prime }\left(x_1\right).$$

因此，$u_t\left(x\mid x_1\right)$生成高斯路径$p_t\left(x\mid x_1\right)$。

4.1 高斯条件概率路径的特殊实例

我们的公式对于任意满足所需边界条件的函数${\mu }_t\left(x_1\right)$和${\sigma }_t\left(x_1\right)$是完全通用的。首先讨论恢复先前使用的扩散过程的概率路径的特殊情况。由于我们直接处理概率路径，因此可以完全放弃对扩散过程的推理。

示例I：扩散条件VF。扩散模型从数据点开始，逐渐添加噪声直到近似于纯噪声。这些可以表示为随机过程，其在任意时间$t$具有严格的闭合形式表示要求，导致具有特定均值${\mu }_t\left(x_1\right)$和标准差${\sigma }_t\left(x_1\right)$的高斯条件概率路径$p_t\left(x\mid x_1\right)$。例如，反向（噪声$\to$数据）方差爆炸（VE）路径的形式为：

$$p_t(x)=\mathcal{N}\left(x\mid x_1,{\sigma }_{1-t}^{2}I\right),$$

其中${\sigma }_t$是递增函数，${\sigma }_0=0$，且${\sigma }_1\gg 1$。将这些选择代入定理3的方程15，我们得到：

$$u_t\left(x\mid x_1\right)=-\frac{{\sigma }_{1-t}^{\prime }}{{\sigma }_{1-t}}\left(x-x_1\right).$$

反向（噪声$\to$数据）方差保持（VP）扩散路径的形式为：

$$p_t\left(x\mid x_1\right)=\mathcal{N}\left(x\mid {\alpha }_{1-t}{x}_1,\left(1-{\alpha }_{1-t}^2\right)I\right),\text{ where}{\alpha }_t=e^{-\frac{1}{2}T(t)},T(t)={\int }_0^t\beta (s)ds,$$

以及$\beta$是噪声尺度函数。将这些选择代入定理3的方程15，我们得到：

$$u_t\left(x\mid x_1\right)=\frac{{\alpha }_{1-t}^{\prime }}{1-{\alpha }_{1-t}^2}\left({\alpha }_{1-t}x-x_1\right)=-\frac{T^{\prime }(1-t)}{2}\left[\frac{e^{-T(1-t)}x-e^{-\frac{1}{2}T(1-t)}{x}_1}{1-e^{-T(1-t)}}\right].$$

我们的条件VF $u_t\left(x\mid x_1\right)$的构建实际上与确定性概率流中先前使用的向量场一致。

示例II：最优传输条件VF。一种更自然的条件概率路径选择是将均值和标准差简单地线性变化，即：

$${\mu }_t(x)=t{x}_1,\text{ and}{\sigma }_t(x)=1-\left(1-{\sigma }_{\min }\right)t.$$

根据定理3，此路径由VF生成：

$$u_t\left(x\mid x_1\right)=\frac{x_1-\left(1-{\sigma }_{\min }\right)x}{1-\left(1-{\sigma }_{\min }\right)t},$$

这与扩散条件VF（方程19）相比，对于所有$t\in [0,1]$都有定义。对应于$u_t\left(x\mid x_1\right)$的条件流为：

$${\psi }_t(x)=\left(1-\left(1-{\sigma }_{\min }\right)t\right)x+t{x}_1,$$

在这种情况下，CFM损失（见方程9、14）的形式为：

$${\mathcal{L}}_{\text{CFM}}(\theta )=E_{t,q\left(x_1\right),p\left(x_0\right)}{\Vert v_t\left({\psi }_t\left(x_0\right)\right)-\left(x_1-\left(1-{\sigma }_{\min }\right)x_0\right)\Vert }^2.$$

允许均值和标准差线性变化不仅导致简单直观的路径，而且在某种意义上是最佳的。条件流${\psi }_t(x)$实际上是两个高斯分布之间的最优传输（OT）位移映射。OT插值器定义为：

$$p_t=[(1-t)id+t\psi {]}_{\star }{p}_0$$

其中$\psi :R^d\to R^d$是将$p_0$推前到$p_1$的OT映射，id表示恒等映射，即$id(x)=x$，$(1-t)id+t\psi$称为OT位移映射。示例1.7显示，在我们的情况下，两个高斯分布中的第一个是标准高斯分布，OT位移映射采用方程22的形式。

直观地说，OT位移映射下的粒子总是沿直线轨迹以恒定速度移动。图3描绘了扩散和OT条件VF的采样路径。有趣的是，我们发现扩散路径的采样轨迹可能在最后“过冲”，导致不必要的回溯，而OT路径保证保持直线。

图2比较了扩散条件得分函数（典型扩散方法中的回归目标）与OT条件VF。起始和结束的高斯分布在这两种情况下是相同的。一个有趣的观察是，OT VF在时间上具有恒定的方向，这可能使回归任务更简单。此属性也可以直接从方程21验证，因为VF可以写成$u_t\left(x\mid x_1\right)=g(t)h\left(x\mid x_1\right)$的形式。

5. 实验

我们在CIFAR-10和ImageNet数据集上探索了使用流匹配的经验优势。我们还消融了流匹配中扩散路径的选择，特别是标准方差保持扩散路径和最优传输路径之间的选择。讨论了通过直接参数化生成向量场和使用流匹配目标如何改进样本生成。最后，展示了流匹配也可用于条件生成设置。

表1总结了我们在不同方法上训练的相同模型的结果，报告了负对数似然（NLL）、样本质量（FID）和评估时间（NFE）。所有模型使用相同的架构、超参数值和训练迭代次数进行训练，基线允许更多的迭代次数以实现更好的收敛。

6. 结论

本文介绍了流匹配，这是一种用于训练连续归一化流模型的新无模拟框架，依赖于条件构建以轻松扩展到非常高维度。此外，FM框架提供了对扩散模型的另一种观点，并建议放弃随机/扩散构建，转而直接指定概率路径，从而允许构造允许更快采样和/或改进生成的路径。实验表明，使用流匹配框架进行训练和采样非常容易，并且在未来，预计FM将为允许多种概率路径打开大门。