學習目標:在細長的碗上,動量的旋鈕是 β,而且要跟著條件數 κ 調(最佳值 β* = ((√κ−1)/(√κ+1))²)。而 Adam 免疫的是梯度的整體尺度——把損失乘上 10³,GD 與動量用同一個 η 立刻爆掉,Adam 的軌跡一模一樣;但把特徵換成「民國年」(x 加上 1911)時,Adam 也救不了

等高線=損失;三條軌跡=GD/動量/Adam(各 300 步);✕=最小點

縱軸 log:損失減最小值對步數(一律換算回未縮放的尺度,所以三種情境可以直接比)

κ = β* = 1/(1−β) = GD = 動量 = Adam =

觀察:把 β 推到 β*(按鈕),動量那條明顯下沉;再往上推就開始過衝。切到「損失 ×10³」:GD 與動量用同一個 η 立刻爆掉,而 Adam 從 1.78e-15 只變成 1.72e-15——它的更新是 m/√v,整體尺度被約掉了。切到「民國年」特徵(把 x 換成 x+1911,資訊完全一樣):κ 跳到 1.9e+14,三個方法一起壞掉,Adam 也只剩 1.73e-1。打開標準化,同一個 Adam 立刻收到 1.00e-16。最佳化器改的是走路的方式,標準化改的是碗的形狀。