<?xml version="1.0" encoding="UTF-8"?>
<rss  xmlns:atom="http://www.w3.org/2005/Atom" 
      xmlns:media="http://search.yahoo.com/mrss/" 
      xmlns:content="http://purl.org/rss/1.0/modules/content/" 
      xmlns:dc="http://purl.org/dc/elements/1.1/" 
      version="2.0">
<channel>
<title>Flow Matching Note Collection</title>
<link>https://fm-note-collection.pages.dev/</link>
<atom:link href="https://fm-note-collection.pages.dev/index.xml" rel="self" type="application/rss+xml"/>
<description>Notes on i am writing on Generative Modelling during my diploma thesis!</description>
<generator>quarto-1.9.37</generator>
<lastBuildDate>Thu, 09 Jul 2026 21:00:00 GMT</lastBuildDate>
<item>
  <title>Link with Diffusion Models</title>
  <link>https://fm-note-collection.pages.dev/posts/link-with-dm/fm_diffusion_.html</link>
  <description><![CDATA[ 





<p>In this section, we will establish a connection between the mathematical objects that are utilized to construct a narrowly continuous probability path <img src="https://latex.codecogs.com/png.latex?(%5Crho_t)_%7Bt%5Cin%20%5B0,1%5D%7D"> between two distributions <img src="https://latex.codecogs.com/png.latex?%5Crho_0"> and <img src="https://latex.codecogs.com/png.latex?%5Crho_1">. The objects under consideration are the velocity field and the score function, appearing in FM and DM formulations respectively. The following theorem is of main interest.</p>
<hr>
<div id="thm-thm1" class="theorem">
<p><span class="theorem-title"><strong>Theorem 1</strong></span> . Let <img src="https://latex.codecogs.com/png.latex?(%5COmega,%20%5Cmathcal%20F,%20%5Cmathbb%20P)"> be a probability space, and <img src="https://latex.codecogs.com/png.latex?X_0,%20X_1"> be two <img src="https://latex.codecogs.com/png.latex?%5Cmathbb%20R%5E%7Bd%7D">-valued independent random variables defined on that probability space such that <img src="https://latex.codecogs.com/png.latex?X_0%20%5Csim%20%5Crho_0%20=%20%5Cmathcal%20N(0,%20I_%7Bd%7D)"> and <img src="https://latex.codecogs.com/png.latex?X_1%20%5Csim%20%5Crho_1%20=%20p_%7B%5Ctextrm%7Bdata%7D%7D">. Also, let <img src="https://latex.codecogs.com/png.latex?(a,%20b)"> denote an arbitrary FM schedule, and <img src="https://latex.codecogs.com/png.latex?v:%20%5B0,1%5D%20%5Ctimes%20%5Cmathbb%20R%5E%7Bd%7D%20%5Crightarrow%20%5Cmathbb%20R%5E%7Bd%7D"> the velocity field that defines the “standard” FM-ODE. For any <img src="https://latex.codecogs.com/png.latex?t%5Cin%20%5B0,1%5D">, let <img src="https://latex.codecogs.com/png.latex?%5Crho_t"> denote the density of the stochastic interpolant, <img src="https://latex.codecogs.com/png.latex?X_t%20:=%20a_t%20%5C,%20X_1%20+%20b_t%20%5C,%20X_0">. One has,</p>
<p><img src="https://latex.codecogs.com/png.latex?%0A%20%20%20%20v(t,%20x)%20=%20%5Cdfrac%7B%5Cdot%7Ba%7D_t%7D%7Ba_t%7D%20%5C,%20x%20+%20%5Cleft(%0A%20%20%20%20%20%20%20%20%5Cdfrac%7B%5Cdot%7Ba%7D_t%7D%7Ba_t%7D%20-%20%5Cdfrac%7B%5Cdot%7Bb%7D_t%7D%7Bb_t%7D%5Cright)%20%20%0A%20%20%20%20%20%20%20%20%5C,%20b_t%5E%7B2%7D%20%5C,%20%5Cnabla_x%20%5Clog%20%7B%7D%20%5Crho_t(x),%20%5C%20%5C%20(t,x)%20%5Cin%20(0,1)%5Ctimes%20%5Cmathbb%20R%5E%7Bd%7D%0A"></p>
</div>
<hr>
<p>To give a formal proof of the preceding theorem, we will make use of the following lemma.</p>
<div id="lem-lem1" class="theorem lemma">
<p><span class="theorem-title"><strong>Lemma 1</strong></span> . Under the assumptions of Theorem&nbsp;1 denote</p>
<p><img src="https://latex.codecogs.com/png.latex?%0A%20%20%20%20D_%7B%5Csigma%7D%5E%7B*%7D(x)%20=%20%5Cmathbb%20E%5Cleft%5BX_1%20%5Cmid%20X_1%20+%20%5Csigma%0A%20%20%20%20%5C,%20X_0%20=%20x%5Cright%5D,%20%5C%20%5C%20x%5Cin%20%5Cmathbb%20R%5E%7Bd%7D%0A"></p>
<p>the so-called MMSE denoiser of <img src="https://latex.codecogs.com/png.latex?X_1"> at level <img src="https://latex.codecogs.com/png.latex?%5Csigma%20%3E%200">. One has,</p>
<p><img src="https://latex.codecogs.com/png.latex?%0A%20%20%20%20D_%7B%5Csigma%7D%5E%7B*%7D(x)%20=%20x%20+%20%5Csigma%5E%7B2%7D%20%5C,%20%5Cnabla_x%20%5Clog%20%7B%7D%20%5C,%0A%20%20%20%20p_%7BX_1%20+%20%5Csigma%20%5C,%20X_0%7D(x)%0A"></p>
</div>
<hr>
<div class="proof">
<p><span class="proof-title"><em>Proof</em>. </span>&nbsp;&nbsp;One writes,</p>
<p><img src="https://latex.codecogs.com/png.latex?%0A%20%20%20%20%5Cbegin%7Balign*%7D%0A%20%20%20%20%20%20%20%20%5Cbegin%7Bsplit%7D%0A%20%20%20%20%20%20%20%20%20%20%20%20p_%7BX_1%20+%20%5Csigma%20%5C,%20X_0%7D%20(x)%20&amp;%20=%20%5Cint_%7B%5Cmathbb%20R%5E%7Bd%7D%7D%20%5C,%20p_%7BX_1,%20%5C,%20X_1%20+%20%5Csigma%20%5C,%20X_0%7D%20(y,%20x)%20%5C,%20dy%20=%20%5Cint_%7B%5Cmathbb%20R%5E%7Bd%7D%7D%20%5C,%20p_%7BX_1%7D(y)%20%5C,%20p_%7BX_1%20+%20%5Csigma%20%5C,%20X_0%20%5Cmid%20X_1%7D(x%20%7C%20y)%20%5C,%20dy%20%5C%5C%0A%20%20%20%20%20%20%20%20%20%20%20%20&amp;%20=%20%5Cint_%7B%5Cmathbb%20R%5E%7Bd%7D%7D%20%5C,%20p_%7BX_1%7D(y)%20%5C,%0A%20%20%20%20%20%20%20%20%20%20%20%20(2%5Cpi%20%5C,%20%5Csigma%5E%7B2%7D)%5E%7B-d/2%7D%20%5C,%20%5Cexp%7B%7D%20%5Cleft(-%7C%7Cx-y%7C%7C%5E%7B2%7D/2%5Csigma%5E%7B2%7D%5Cright)%20%5C,%20dy%20%5C%5C%0A%20%20%20%20%20%20%20%20%20%20%20%20&amp;%20:=%20(2%5Cpi%20%5C,%20%5Csigma%5E%7B2%7D)%5E%7B-d/2%7D%20%5C,%20I(x)%0A%20%20%20%20%20%20%20%20%5Cend%7Bsplit%7D%0A%20%20%20%20%5Cend%7Balign*%7D%0A"></p>
<p>since <img src="https://latex.codecogs.com/png.latex?X_1%20+%20%5Csigma%20%5C,%20X_0%20%5Cmid%20X_1%20=%20y%20%5C,%20%5Csim%20%5Cmathcal%7BN%7D(y,%20%5Csigma%5E%7B2%7D%20%5C,%20I_d)">. Using this equation, we deduce that,</p>
<p><img src="https://latex.codecogs.com/png.latex?%0A%20%20%20%20%5Cbegin%7Balign*%7D%0A%20%20%20%20%20%20%20%20%5Cbegin%7Bsplit%7D%0A%20%20%20%20%20%20%20%20%20%20%20%20%5Cnabla_x%20%5Clog%7B%7D%20p_%7BX_1%20+%20%5Csigma%20%5C,%20X_0%7D(x)%20&amp;%20=%20%5Cnabla_x%20%5Clog%7B%7D%20I(x)%20=%20%5Cdfrac%7B1%7D%7BI(x)%7D%20%5C,%20%5Cnabla_x%20I(x)%20%5C%5C%0A%20%20%20%20%20%20%20%20%20%20%20%20&amp;%20=%20%5Cdfrac%7B1%7D%7BI(x)%7D%20%5C,%20%5Cint_%7B%5Cmathbb%20R%5E%7Bd%7D%7D%20%5C,%0A%20%20%20%20%20%20%20%20%20%20%20%20p_%7BX_1%7D(y)%20%5C,%20%5Cdfrac%7B(y-x)%7D%7B%5Csigma%5E%7B2%7D%7D%20%5C,%0A%20%20%20%20%20%20%20%20%20%20%20%20%5Cexp%7B%7D%20%5Cleft(-%7C%7Cx-y%7C%7C%5E%7B2%7D/2%5Csigma%5E%7B2%7D%5Cright)%20%5C,%20dy%20%5C%5C%0A%20%20%20%20%20%20%20%20%20%20%20%20&amp;%20=%20%5Cdfrac%7B1%7D%7B%5Csigma%5E%7B2%7D%7D%20%5C,%20%5Cdfrac%7B1%7D%7BI(x)%7D%20%5C,%20%5Cleft%5B%5Cint_%7B%5Cmathbb%20R%5E%7Bd%7D%7D%20%5C,%0A%20%20%20%20%20%20%20%20%20%20%20%20y%20%5C,%20p_%7BX_1%7D(y)%20%5C,%20%5Cexp%7B%7D%20%5Cleft(-%7C%7Cx-y%7C%7C%5E%7B2%7D/2%5Csigma%5E%7B2%7D%5Cright)%20%5C,%20dy%20%20%5C,%20-x%20%5C,%20I(x)%5Cright%5D%20%5C%5C%0A%20%20%20%20%20%20%20%20%20%20%20%20&amp;%20:=%20%5Cdfrac%7B1%7D%7B%5Csigma%5E%7B2%7D%7D%20%5C,%20%5Cleft(%5Cdfrac%7BG(x)%7D%7BI(x)%7D%20-%20x%5Cright)%0A%20%20%20%20%20%20%20%20%20%20%20%20%5Cend%7Bsplit%7D%0A%20%20%20%20%5Cend%7Balign*%7D%0A"></p>
<p>Now observe that,</p>
<p><img src="https://latex.codecogs.com/png.latex?%0A%20%20%20%20%5Cbegin%7Balign*%7D%0A%20%20%20%20%20%20%20%20%5Cbegin%7Bsplit%7D%0A%20%20%20%20D_%7B%5Csigma%7D%5E%7B*%7D(x)%20&amp;%20=%20%5Cdfrac%7B%5Cint_%7B%5Cmathbb%20R%5E%7Bd%7D%7D%20%5C,%20y%20%5C,%20p_%7BX_1,%20%5C,%20X_1%20+%20%5Csigma%20%5C,%20X_0%7D%20(y,%20x)%20%5C,%20dy%20%7D%7B%5Cint_%7B%5Cmathbb%20R%5E%7Bd%7D%7D%20%5C,%20p_%7BX_1,%20%5C,%20X_1%20+%20%5Csigma%20%5C,%20X_0%7D%20(y,%20x)%20%5C,%20dy%7D%20=%20%5Cdfrac%7B%5Cint_%7B%5Cmathbb%20R%5E%7Bd%7D%7D%20%5C,%20y%20%5C,%20p_%7BX_1%7D(y)%20%5C,%20p_%7BX_1%20+%20%5Csigma%20%5C,%20X_0%20%5Cmid%20X_1%7D(x%7Cy)%20%5C,%20dy%20%7D%7B%5Cint_%7B%5Cmathbb%20R%5E%7Bd%7D%7D%20p_%7BX_1%7D(y)%20%5C,%20p_%7BX_1%20+%20%5Csigma%20%5C,%20X_0%20%5Cmid%20X_1%7D(x%7Cy)%20%5C,%20dy%7D%20%5C%5C%0A%20%20%20%20&amp;%20=%20%5Cdfrac%7B%5Ccancel%7B(2%5Cpi%20%5C,%20%5Csigma%5E%7B2%7D)%5E%7B-d/2%7D%7D%20%5C,%20G(x)%7D%7B%5Ccancel%7B(2%5Cpi%20%5C,%20%5Csigma%5E%7B2%7D)%5E%7B-d/2%7D%7D%20%5C,%20I(x)%7D%0A%20%20%20%20%20%20%20%20%5Cend%7Bsplit%7D%0A%20%20%20%5Cend%7Balign*%7D%0A"></p>
<p>Therefore,</p>
<p><img src="https://latex.codecogs.com/png.latex?%0A%20%20%20%20%5Cnabla_x%20%5Clog%20%7B%7D%20p_%7BX_1%20+%20%5Csigma%20%5C,%20X_0%7D(x)%20=%20%5Cdfrac%7B1%7D%7B%5Csigma%5E%7B2%7D%7D%20%5C,%20%5Cleft(D_%7B%5Csigma%7D%5E%7B*%7D(x)%20-%20x%5Cright)%0A"></p>
<p>and a proper rearrangement of the terms in this equation implies the desired result. &nbsp;&nbsp;<img src="https://latex.codecogs.com/png.latex?%5Cblacksquare"></p>
</div>
<hr>
<div class="proof">
<p><span class="proof-title"><em>Proof</em>. </span>Theorem&nbsp;1 <br><br> Starting by the definition of the velocity field as a conditional expectation we derive the following relation between itself and the MMSE denoiser.</p>
<p><span id="eq-eq1"><img src="https://latex.codecogs.com/png.latex?%0A%20%20%20%20%5Cbegin%7Balign*%7D%0A%20%20%20%20v(t,%20x)%20&amp;%20=%20%5Cmathbb%20E%5Cleft%5B%5Cdot%7Ba%7D_t%20%5C,%20X_1%20+%20%5Cdot%7Bb%7D_t%20%5C,%20X_0%0A%20%20%20%20%5Cmid%20a_t%20%5C,%20X_1%20+%20b_t%20%5C,%20X_0%20=%20x%5Cright%5D%5C%5C%0A%20%20%20%20&amp;%20=%20%5Cmathbb%20E%5Cleft%5B%5Cdot%7Ba%7D_t%20%5C,%20X_1%20+%20%5Cdot%7Bb%7D_t%20%5C,%20%5Cleft(%0A%20%20%20%20%5Cdfrac%7Bx%20-%20a_t%20%5C,%20X_1%7D%7Bb_t%7D%0A%20%20%20%20%5Cright)%0A%20%20%20%20%20%5CBigm%20%5Cvert%20a_t%20%5C,%20X_1%20+%20b_t%20%5C,%20X_0%20=%20x%5Cright%5D%20%5C%5C%0A%20%20%20%20%20&amp;%20=%20%5Cdfrac%7B%5Cdot%7Bb%7D_t%7D%7Bb_t%7D%20%5C,%20x%20+%20%5Cleft(%5Cdot%7Ba%7D_t%20-%0A%20%20%20%20%20%5Cdot%7Bb%7D_t%20%5C,%20%5Cdfrac%7Ba_t%7D%7Bb_t%7D%5Cright)%5Ccdot%20%5C,%20%5Cmathbb%20E%5Cleft%5B%0A%20%20%20%20%20%20%20%20X_1%20%5CBigm%20%5Cvert%20X_1%20+%20%5Cdfrac%7Bb_t%7D%7Ba_t%7D%20%5C,%20X_0%0A%20%20%20%20%20%20%20%20=%20%5Cdfrac%7Bx%7D%7Ba_t%7D%0A%20%20%20%20%20%5Cright%5D%20%5C%5C%0A%20%20%20%20%20&amp;%20=%20%5Cdfrac%7B%5Cdot%7Bb%7D_t%7D%7Bb_t%7D%20%5C,%20x%20+%20%5Cleft(%5Cdot%7Ba%7D_t%20-%0A%20%20%20%20%20%5Cdot%7Bb%7D_t%20%5C,%20%5Cdfrac%7Ba_t%7D%7Bb_t%7D%5Cright)%5Ccdot%20D_%7Bb_t/a_t%7D%5E%7B*%7D(x/a_t)%0A%20%20%20%20%5Cend%7Balign*%7D%0A%5Ctag%7B1%7D"></span></p>
<p>By Lemma&nbsp;1, we have,</p>
<p><span id="eq-eq2"><img src="https://latex.codecogs.com/png.latex?%0AD_%7Bb_t/a_t%7D%5E%7B*%7D(x/a_t)%20=%20%5Cdfrac%7Bx%7D%7Ba_t%7D%20+%20%5Cdfrac%7Bb_t%5E%7B2%7D%7D%7Ba_t%5E%7B2%7D%7D%20%5C,%0A%5Cnabla_%7Bx/a_t%7D%20%5Clog%7B%7D%20p_%7BX_1%20+%20%5Cfrac%7Bb_t%7D%7Ba_t%7D%20%5C,%20X_0%7D%20(x/a_t)%0A%5Ctag%7B2%7D"></span></p>
</div>
<p>Notice that,</p>
<p><img src="https://latex.codecogs.com/png.latex?%0A%20%20%20%20p_%7BX_1%20+%20%5Cfrac%7Bb_t%7D%7Ba_t%7D%20%5C,%20X_0%7D(x/a_t)%20=%20p_%7B%5Cfrac%7BX_t%7D%7Ba_t%7D%7D(x/a_t)%20=%0A%20%20%20%20a_t%5E%7Bd%7D%20%5C,%20%5Crho_t(x)%0A"></p>
<p>Taking the logarithm, differentiating with respect to <img src="https://latex.codecogs.com/png.latex?x/a_t">, and substituting in Equation&nbsp;2 we get,</p>
<p><span id="eq-eq3"><img src="https://latex.codecogs.com/png.latex?%0A%20%20%20%20D_%7Bb_t/a_t%7D%5E%7B*%7D(x/a_t)%20=%20%5Cdfrac%7Bx%7D%7Ba_t%7D%20+%20%5Cdfrac%7Bb_t%5E%7B2%7D%7D%7Ba_t%5E%7B2%7D%7D%20%5C,%20%5Cnabla_%7Bx/a_t%7D%20%20%5Clog%7B%7D%20%5Crho_t(x)%20=%20%5Cdfrac%7Bx%7D%7Ba_t%7D%20+%20%5Cdfrac%7Bb_t%5E%7B2%7D%7D%7Ba_t%7D%20%5C,%20%5Cnabla_x%20%5Clog%20%7B%7D%20%5Crho_t(x)%0A%5Ctag%7B3%7D"></span></p>
<p>Substituting Equation&nbsp;3 in Equation&nbsp;1, one writes,</p>
<p><img src="https://latex.codecogs.com/png.latex?%0A%20%20%20%20v(t,%20x)%20=%20%5Cdfrac%7B%5Cdot%7Ba%7D_t%7D%7Ba_t%7D%20%5C,%20x%20+%20%5Cleft(%0A%20%20%20%20%20%20%20%20%5Cdfrac%7B%5Cdot%7Ba%7D_t%7D%7Ba_t%7D%20-%20%5Cdfrac%7B%5Cdot%7Bb%7D_t%7D%7Bb_t%7D%0A%20%20%20%20%5Cright)%20%5C,%20b_t%5E%7B2%7D%20%5C,%20%5Cnabla_x%20%5Clog%7B%7D%20%5Crho_t(x),%20%5C%20%5C%20(t,x)%20%5Cin%20(0,1)%20%5Ctimes%20%5Cmathbb%20R%5E%7Bd%7D%0A"></p>
<p>which is the desired expression. &nbsp;&nbsp;<img src="https://latex.codecogs.com/png.latex?%5Cblacksquare"></p>
<hr>



 ]]></description>
  <guid>https://fm-note-collection.pages.dev/posts/link-with-dm/fm_diffusion_.html</guid>
  <pubDate>Thu, 09 Jul 2026 21:00:00 GMT</pubDate>
</item>
</channel>
</rss>
