1 minute read

... views ... visitors ... total

Read in English

在 DDPM 中,我们问网络:“这把带噪椅子里混入了多少噪声?”换一个问法:“当前这些点,下一刻应该朝哪里移动?” 就进入了 Flow Matching(流匹配,FM)的视角。

先不碰随机微分方程。我们只需要一把训练椅子、一团随机噪声,以及连接它们的直线,就能写出可用的训练目标。

1. 连一条从噪声到椅子的直线

记干净椅子为 $y$,随机噪声为 $z\sim\mathcal N(0,I)$,两者形状都是 $2048\times3$。这篇用递增的生成时间 $t\in[0,1]$:

\[x_t=(1-t)z+t y.\]

$t=0$ 时全是噪声,$t=1$ 时就是椅子,中间是二者混合。例如 $t=0.3$,当前数组就是 $0.7z+0.3y$。

注意时间方向变了:DDPM 中的 $t$ 越大噪声越强;这篇的 $t$ 越大越接近数据。为避免混淆,后面统一用 $y,z$ 表示数据与噪声端点。

Flow Matching 训练时,怎样连接噪声与已知椅子?

正在准备图表。

右图为 xₜ=(1−t)z+t y,t=0 是固定高斯点团,t=1 是左侧的教学椅子。椅子由程序构造,并非 ShapeNet 数据。这是已知端点的训练插值,没有用速度网络生成新形状。

图中固定了同一把教学椅子和一份噪声,方便观察训练插值。终点是事先给定的,这不是网络生成的椅子。真正生成时,我们只有新噪声和学到的速度场。

2. 速度监督几乎可以直接读出来

对刚才的直线求时间导数:

\[u=\frac{dx_t}{dt}=y-z.\]

所以训练规则是:取椅子 $y$、噪声 $z$ 和随机时间 $t$,构造 $x_t$,让网络预测 $y-z$:

\[L_{\mathrm{CFM}} =\mathbb E_{y,z,t} \left[\|v_\theta((1-t)z+ty,t)-(y-z)\|^2\right].\]

这里叫条件流匹配(Conditional Flow Matching,CFM),因为监督速度来自给定端点的一条条件路径。和 DDPM 并排看,差别非常具体:

步骤 DDPM 噪声预测 这里的线性 CFM
构造输入 $a_t y+b_t z$,由扩散日程规定 $(1-t)z+ty$
网络预测 噪声 $z$ 速度 $y-z$
训练损失 噪声预测的平方误差 速度预测的平方误差
生成更新 DDPM、DDIM 或概率流求解器 对 $dx/dt=v_\theta(x,t)$ 积分

对 MNIST,$y-z$ 是一张“像素变化速度图”;对点云,它是所有点的三维移动速度。张量大小没有改变,输出的含义改变了。

3. 生成时没有椅子,速度从哪里来?

训练结束后,从新的 $x(0)\sim\mathcal N(0,I)$ 开始,反复用网络查询当前速度。最简单的 Euler 更新是

\[x(t+h)=x(t)+h\,v_\theta(x(t),t).\]

从 $t=0$ 走到 $t=1$,得到新椅子。小网络的 MNIST 例子可以沿用同一个流程:

# 训练;clean 可以是图像 [B,1,28,28] 或点云 [B,N,3]
t = torch.rand(clean.shape[0], device=clean.device)
weight = t.view((-1,) + (1,) * (clean.ndim - 1))
z = torch.randn_like(clean)
middle = (1 - weight) * z + weight * clean
loss = (model(middle, t) - (clean - z)).square().mean()
optimizer.zero_grad()
loss.backward()
optimizer.step()

MNIST 教学脚本的 --model fm --epochs 10 选项实现了这个目标,采样使用每步查询两次速度的 Heun 方法。

一个重要问题随之出现:不同的椅子与噪声配对,可能经过相近的中间状态,却要求不同速度。网络只看 $x,t$,该听谁的?平方误差给出的答案是:

\[v^\star(x,t)=\mathbb E[y-z\mid x_t=x,t].\]

它学到的是当前位置所有可能配对的平均速度。生成时,网络沿途重新判断,不必追随训练集中某一对端点的直线。

推导补充:为什么条件速度的回归能训练整体速度场?

设 $U=y-z$。条件均值的平方误差分解给出

\[\mathbb E\|v_\theta-U\|^2 =\mathbb E\|v_\theta-v^\star\|^2+ \mathbb E\|U-v^\star\|^2.\]

最后一项与参数无关,所以条件回归和直接回归边缘速度具有相同的参数梯度。各条条件路径满足的概率守恒关系在平均后仍成立;在相应正则性条件下,边缘速度就能运输整体样本分布。

4. 这怎样与扩散模型结合?

把两者统一写成一条高斯混合路径:

\[x_t=a(t)y+b(t)z.\]

扩散选择特定的信号、噪声日程;上面的线性 CFM 选择 $a(t)=t,b(t)=1-t$。对一般可微日程,一对已知端点的目标速度是

\[u_t=\dot a(t)y+\dot b(t)z.\]

因此,保留扩散对应的概率路径,也可以改用 Flow Matching 回归速度。或者连路径一起改成线性插值,得到前面的训练方式。

已有噪声网络也能换算成速度。设它估计 $\hat z=\epsilon_\theta(x,t)$,先用当前状态估计数据 $\hat y=(x-b\hat z)/a$,再代入速度:

\[v_\theta(x,t) =\frac{\dot a(t)}{a(t)}x+ \left(\dot b(t)-\frac{\dot a(t)b(t)}{a(t)}\right) \epsilon_\theta(x,t).\]

这就是“预测噪声”与“预测速度”之间的桥。它适用于相同路径的内部时刻 $a(t)\neq0$;不是把任意预训练 DDPM 的输出直接改名为线性流的速度。

再深一层:它与 Score、概率流 ODE 是什么关系?

高斯噪声路径满足 $s_t(x)=-\mathbb E[z\mid x_t=x]/b(t)$。代入上面的关系,得到

\[v_t(x)=\frac{\dot a}{a}x+ \left(\frac{\dot a}{a}b^2-\dot b\,b\right)s_t(x).\]

当日程来自对应的线性高斯扩散 SDE 时,这与其概率流 ODE 的速度一致,时间方向也要一起转换。它们联系的是每个时刻的分布,不是逐样本轨迹。

改变预测目标也会改变训练权重。令 $c(t)=\dot b-\dot a b/a$,使用这种相容参数化时,速度误差等于 $c(t)$ 乘以噪声误差,所以速度 MSE 等于按 $c(t)^2$ 加权的噪声 MSE。不能因此认定两个未加权损失完全相同。端点处的除零需要极限或专门处理。

5. 直线训练,是不是意味着一步就生成?

不意味着。训练时每对端点的直线速度不变,但网络学到的是随位置和时间改变的平均速度,因此实际采样轨迹可以弯曲:

条件训练路径是直线,边缘速度场的采样轨迹仍然可以弯曲

正在准备图表。

噪声来自 N(0,1),数据来自均值 ±2、标准差 0.25 的等权混合。灰色虚线是独立配对的条件直线,蓝线通过解析边缘速度场积分得到;两组线没有逐样本对应关系。竖线标出当前 t,右图给出同一时刻的边缘密度。这是解析分布演示,没有训练网络。

灰色虚线是训练配对的条件直线,蓝线是对解析平均速度场积分的轨迹。条件直线与蓝色生成轨迹不必逐条对应。

较容易积分的路径可能帮助减少采样调用,但效果还取决于学到的场、求解器和训练方式。独立配对的直线也没有自动求出噪声与数据之间的全局最优传输。

6. 换成 ShapeNet,需要做什么?

把一件训练样本换成一整把椅子的 $N\times3$ 坐标,取同形状高斯噪声,训练目标仍是 $y-z$。最重要的改变在网络:它需要利用整件椅子的结构,让所有点协同移动。

噪声与目标数组的第 $i$ 行配对,会定义一条训练路径;不需要先找出不同椅子之间的“语义对应点”。但输入与监督必须一起换序,才能保留逐点监督的关系。点云速度网络通常应当对点的排列等变。

想生成几何场,也可以先把椅子编码成潜变量,再在潜空间学习速度,最后解码为符号距离场(SDF)。几何篇接着说明这条流程。

关系记法。 扩散与 FM 可以采用相同的高斯概率路径,并通过 Score 或噪声预测换算速度;FM 也能选择其它路径。扩散已有确定性的概率流采样,FM 的主要变化在于如何构造路径与训练速度场。

参考与来源。 条件目标、平均速度与高斯路径见 Flow Matching for Generative Modeling,§3–4。概率流联系见 Score-Based Generative Modeling through SDEs。椅子图为程序示意,双峰图使用解析分布,均不是训练结果。本文代码与解释独立编写,未报告 ShapeNet 实验。

AI feedback

Anonymous

Loading AI feedback…

Leave a comment