Flow Matching入門: 連続の式・条件付き目的・ODE生成
2026年10月の再サーベイ： 研究史・重要文献・最近の進展を整理した新版を追加しました（2026年10月3日基準）。以下は従来のメモです。定義・適用条件の訂正は新版を参照してください。
Flow Matchingは、既知の確率経路に対応する速度場を回帰し、Continuous Normalizing Flow (CNF)をODEシミュレーションなしで学習する枠組みです。以下は Lipman et al., ICLR 2023 と Tong et al., TMLR 2024 に沿った最小限の導出です。
1. 確率経路と連続の式
簡単なbase distributionを $p_0$、data distributionを $p_1$ とし、その間を結ぶ密度の族を $p_t(x)$, $t\in[0,1]$ とします。時間依存vector field $u_t(x)$ が
\[\frac{d x_t}{dt}=u_t(x_t)\]によってサンプルを運ぶとき、密度は連続の式
\[\partial_t p_t(x)+\nabla\cdot\bigl(p_t(x)u_t(x)\bigr)=0\]を満たします。$u_t$ が十分regularでODEが一意に解けるなら、$p_0$から出発した流れの 時刻1の分布は $p_1$ です。実際の生成時には、学習した $v_\theta(t,x)$ を使ってこのODEを 数値積分します。
2. Flow Matching目的
理想速度場 $u_t$ が直接評価できるなら、Flow Matchingは
\[\mathcal L_{\mathrm{FM}}(\theta) =\mathbb E_{t\sim U[0,1],\,x\sim p_t} \left[\|v_\theta(t,x)-u_t(x)\|_2^2\right]\]を最小化します。しかし周辺速度場 $u_t(x)$ は通常計算しにくいため、実装では条件付き経路を 使います。
3. Conditional Flow Matching
$z$ をdata sampleやendpoint pairなどの条件とし、評価可能な $p_t(x\mid z)$ と $u_t(x\mid z)$ を設計します。混合した周辺経路が
\[p_t(x)=\int p_t(x\mid z)q(z)\,dz\]となるとき、Conditional Flow Matching (CFM) は
\[\mathcal L_{\mathrm{CFM}}(\theta) =\mathbb E_{t,z,x\sim p_t(\cdot\mid z)} \left[\|v_\theta(t,x)-u_t(x\mid z)\|_2^2\right]\]を用います。Lipman et al.は、この条件付き目的と周辺FM目的の勾配が同じになる条件を示して います。したがって、simulation-freeにサンプルできる回帰問題として学習できます。
線形補間の例
独立またはcouplingから得た $(x_0,x_1)$ に対して
\[x_t=(1-t)x_0+t x_1, \qquad u_t(x_t\mid x_0,x_1)=x_1-x_0\]と置けば、学習targetはendpoint差になります。ただし「直線pathだから学習後の生成軌道も 必ず直線」という意味ではありません。周辺速度場は多数の条件付きpathを平均したものです。
4. Diffusion・Optimal Transportとの関係
- Flow Matchingは特定のpathを一つに固定する名称ではなく、Gaussian pathやdiffusion path、 optimal-transport (OT) interpolationなどを選べる学習原理です。
- diffusionのprobability pathを選ぶと、score-based modelと密接に関係する決定論的な probability-flow ODEを学習できます。
- OT-CFMはminibatch内のcouplingを利用して、独立couplingより短く単純な条件付きpathを 作ることを狙います。ただしminibatch OTは母集団の真のOT planそのものではありません。 一般化はTong et al.を参照してください。
- flowとdiffusionを共通の補間から捉える別の枠組みとして Stochastic Interpolantsがあります。
5. 実装・評価上の注意
- endpoint convention: 論文や実装によりnoise→dataとdata→noiseが逆なので、$t=0,1$を確認する。
- coupling: 独立、ラベル条件付き、minibatch OTでは学習targetが異なる。
- ODE solver: 学習lossが同じでもsolver、許容誤差、NFEによりsampling品質と速度が変わる。
- likelihood: サンプル品質と厳密尤度は同じ評価ではない。CNFの尤度にはdivergence積分が必要。
- 比較条件: diffusionより常に高速・高品質とは限らない。path、network、solver、NFEを揃える。