學習目標:學習曲線(對資料量)回答「加資料有沒有用」,容量曲線(對模型大小)回答「換大模型有沒有用」,訓練曲線(對步數)回答「訓久一點有沒有用」。同一份資料,三張圖給三個不同的處方——而讀它們之前要先問誤差棒有多寬。

學習曲線:訓練誤差與驗證誤差對資料量 n(誤差帶=重複實驗的四分位距);水平線=σ²

第二張圖:容量曲線(對 d)或訓練曲線(對步數)

高原(驗證) = σ² = 誤差帶寬度 = 診斷 =

觀察:把 d 從 2 調到 12,學習曲線的高原整個掉下來而處方完全反轉(原本「加資料無效、該加容量」變成「加資料還有用」)。把驗證集從 240 調到 15,誤差帶撐開到看不出趨勢,診斷面板就會改口說資料不足以判斷。切到訓練曲線,訓練誤差一路往下而母體風險先降後升,而且最低點附近很平——提早停止不需要停得很準。