U6.1 改變出發時間或抵達時間,終點會怎麼變?
本篇重用3 篇
同一條路,可以從哪裡微分?
U6.0 已用 teacher 短段與合成規則訓練任意 。但完整 flow map 不只知道落點,也知道落點隨時間怎麼變。現在的問題是:能否將這些變化直接寫成學習訊號,減少取得完整 trajectory target 的成本?
沿用 為噪聲、 為資料,。想像同一段車程:固定出發站,改問不同抵達時間的位置;或固定目的時間,換到同一路線較晚的站點出發。前者的答案會移動,後者的答案應保持不變。下面各自把動作翻成微分。
固定出發點,讓目的時間往前走
從 出發, 就是 時的 trajectory 位置。對 微分,其變化率就是終點所在位置的速度:
左邊是 flow map 對目的時間的偏導,右邊在輸出位置查 velocity。這是追蹤粒子的 Lagrangian 關係。若有能在任意位置求值的 velocity teacher,就能把兩側差距寫成
這是一個具體的 teacher-based residual。Teacher 在這裡提供輸出點的局部方向,而不是先跑完整長段生成一筆終點標籤。
沿路換一個出發點,但目的時間固定
現在固定 ,讓 沿同一條 ODE 移動。無論從這條路哪個站點出發,走到 都到達同一位置,所以
將全導數用 chain rule 展開,就得到 Eulerian 關係:
兩項分別是改變出發時間、改變出發位置帶來的影響。這次 velocity 在輸入位置 。若輸入由 抽出,我們手上就有它的 reference label ,其條件平均是 。
小心輸出位置也可能在 support 裡,為什麼仍不能直接用原配對?
問題不是「沒有任何 reference path 經過輸出位置」。真正缺的是:原本那份 在給定模型輸出位置後,不一定具有正確的 posterior law。只有在自己合成的輸入 ,這筆配對才直接給出所需的條件速度估計。若另有解析 velocity、能正確抽取輸出點 posterior 的方法,或另訓局部模型,仍可能在輸出點取到速度;所以這不是「Lagrangian 在定義上必須有 pretrained teacher」的定理。
條件速度無偏,還要看它放在 loss 的哪裡
先令 ,,則 。如果直接最小化
展開後會得到 oracle Eulerian squared residual,另加 。額外項依賴線上 Jacobian,會改變學習問題。這與普通 FM 回歸不同:FM 的 random label 在固定輸入下的 variance 不含線上參數。
因此,想沿輸入點的條件速度從頭訓練,還需要像 U5.4 那樣,把含 velocity 的線性項放在固定的 stopped-gradient target 或更新裡。下一篇會用另一個輸出座標,把這個構造完整寫出來。
課堂提問Q1
Lagrangian 與 Eulerian 都是精確 flow 的關係。為什麼不能只看公式相同,就說它們有相同的從頭訓練方式?
先想一想,再展開看整理後的答案
因為公式需要的資訊不同。Lagrangian 在模型輸出位置要 ,Eulerian 在自己抽出的輸入位置要 ;reference 配對只直接提供後者的條件 label。而且「能估計 velocity」之後,還要檢查 discrepancy、微分與 stop-gradient 的配置,才能判斷代換是否保留 expected update。
所以我們依序問:要哪個位置的速度?手上怎麼取得它?把估計量代進去後,梯度是否仍是想要的那個?每一問都不能省。
不微分,直接要求兩段等於一段
還有 U6.0 的合成規則:
可以用兩個短跳的停止梯度結果監督一個長跳,這類構造稱為 progressive matching。式子不顯式出現 ,但不代表可以不提供動力學。所有 maps 都原地不動時,也滿足這條式子;teacher 短段或資料的局部 FM loss,才將它接回我們指定的 transport。
這三種描述在書 §11.6 並排整理,Flow Map Matching [1] 也用它們組織學習目標。它們刻畫同一個精確 flow,不代表實作 loss、所需資源與優化軌跡相同。
圖:比較時先看 velocity 在哪個位置求值,再檢查如何取得訓練訊號。圖中 teacher 欄指本課程討論的常用蒸餾設定。
| 動作 | 精確關係 | 直接需要的訊號 |
|---|---|---|
| 移動目的時間 | 輸出點的 velocity | |
| 沿路移動出發點 | 輸入點的 velocity | |
| 切成兩段 | 中間 map 與局部動力學錨定 |
互動 demo:先用解析答案對照。 每個數字由目前參數重新計算;實際訓練結果另見實作程式。
消化一下
參考文獻
主要理論參考:The Principles of Diffusion Models,§11.6 的 Lagrangian、Eulerian 與 semigroup views;相關方法細節參照 Flow Map Matching。正文的符號沿用本課程;方法實作細節再對照下列原始論文。