Shih-Hsin Wang 王士欣
EN

Mathematical Foundations

以淺顯易懂的方式介紹機器學習中常見的數學工具，以及本網站其他相關課程所需的數學知識。

7 個單元 31 篇 已讀 0 / 31 2026年9月
  1. M0 Calculus 工具箱 0 / 4 gradient 與方向、divergence 與通量、Taylor 展開與「假設直線」、微分穿過積分與沿路徑的全導數。
    1. M0.0 霧中下山：Gradient 與方向
    2. M0.1 閘門的進出：Divergence 與通量
    3. M0.2 導航的三十秒：Taylor 展開與「假設直線」
    4. M0.3 漂流的溫度計：全導數、微分穿過積分與 JVP
  2. M1 機率與 Conditional Expectation 0 / 5 多變量 Gaussian、conditional expectation、MSE 的最小值、Bayes 與 posterior，以及去噪就是取 posterior mean（Tweedie）。
    1. M1.0 兩台體重計：Gaussian 的線性組合
    2. M1.1 從鞋子猜身高：Conditional Expectation
    3. M1.2 天氣預報該報幾度：MSE 的最小值是 Conditional Expectation
    4. M1.3 快篩陽性：Bayes 與 Posterior
    5. M1.4 去噪就是取 Posterior Mean（Tweedie）
  3. M2 Deterministic Dynamics 0 / 5 vector field 與 ODE、pushforward 與 flow map、continuity equation、Euler 法的誤差與高階方法。
    1. M2.0 河面上的箭頭：Vector Field 與 ODE
    2. M2.1 從一片葉子到一群葉子：Flow Map 與 Pushforward
    3. M2.2 站內人數變化 = 進 − 出：Continuity Equation
    4. M2.3 導航每 30 秒更新一次：Euler 法與它的誤差
    5. M2.4 在 30 秒的中點多看一眼：高階方法
  4. M3 Stochastic Dynamics 0 / 5 從 random walk 到 Brownian motion、SDE 是加了噪聲的 ODE、Fokker–Planck、Langevin 與 stationary distribution、weak 與 strong convergence。
    1. M3.0 醉漢一小時後在哪：Random Walk 到 Brownian Motion
    2. M3.1 水流加亂流：SDE 是加了噪聲的 ODE
    3. M3.2 一千片葉子在亂流裡：Fokker–Planck 方程式
    4. M3.3 山谷裡隨機走的人群：Langevin Dynamics 與 Stationary Distribution
    5. M3.4 每條路徑對，還是最後的分佈對：Weak 與 Strong Convergence
  5. M4 Markov Chains 0 / 4 Markov chain 與 transition matrix、absorbing state、continuous-time Markov chain 與 rate matrix、時間反轉與比值。
    1. M4.0 明天的天氣只看今天：Markov Chain 與 Transition Matrix
    2. M4.1 進去就出不來：Absorbing State 與吸收時間
    3. M4.2 電話隨時會響：Continuous-Time Markov Chain 與 Rate Matrix
    4. M4.3 影片倒著播看得出來嗎：Time Reversal 與比值
  6. M5 Optimization、Convexity 與距離 0 / 4 Jensen 不等式、KL divergence 與 cross-entropy、移動目標與 EMA、對 generator 微分（KL 的梯度是兩個 score 的差）。
    1. M5.0 保險為什麼存在：Convex Function 與 Jensen 不等式
    2. M5.1 用錯的機率表下注一年會多輸多少：KL Divergence 與 Cross-Entropy
    3. M5.2 追一隻自己也在跑的狗：移動目標、EMA 與 Stop-Gradient
    4. M5.3 只看得到樣本，怎麼調機器：對 Generator 微分
  7. M6 Optimal Transport 0 / 4 搬倉庫問題（Monge / Kantorovich）、W₂ 距離、一維與 monotone 配對、大規模近似（Sinkhorn、minibatch）。
    1. M6.0 搬倉庫問題：Monge、Kantorovich 與 Coupling
    2. M6.1 兩個城市的人口分佈差多少：W₂ 距離
    3. M6.2 最省油的配法一定不交叉：一維的單調性與 Brenier
    4. M6.3 五萬個倉庫怎麼算：Sinkhorn 與 Minibatch 近似

亮起來的是這台瀏覽器讀過的篇；這筆紀錄只留在你的裝置上。