📖 這份指引怎麼用 (試看版:只開放「5.3 模型訓練、評估與驗證」這一節)
這一頁是把官方 223 頁的《科目三:機器學習技術與應用》學習指引,整份重新用白話改寫的版本。內容範圍、章節編號都跟官方指引一致(第3~6章),方便你對照原文。
- 🔑 每一節開頭都有「先搞懂這幾件事」:讀那一節之前需要的預備知識,先花一分鐘看完,正文就不會卡住。
- 看到 這種小按鈕 都可以點:全站的專有名詞、數學符號都做成名詞小卡,每張卡用一個生活例子講給你懂,忘記就點一下。之後同一個名詞再出現時,會變成淡淡的虛線底線——一樣點得開。
- 公式下面都有 💬 白話翻譯:看不懂符號沒關係,先看翻譯那一行。
- 🎮 每一節都有「玩玩看」小實驗:用拉桿和按鈕把抽象的數學「玩」成直覺,強烈建議動手玩過再往下讀。
- 📐 數學小教室、🧮 實際算一次:完全沒碰過的數學符號,會先用最基礎的方式帶一次、再用真實數字算給你看。
- 每章結尾有官方的 10 題練習題:點選項立刻對答案、看解析。
🎯 科目三到底考什麼
官方把科目三切成四大主題,就是本頁的四章:
| 主題代號 | 主題 | 白話說明 | 對應章節 |
|---|---|---|---|
| L231 | 機器學習基礎數學 | 機率統計、線性代數、數值優化——模型背後的三種數學工具 | 第3章 |
| L232 | 機器學習與深度學習 | 三大學習類型、常見演算法、神經網路與深度學習框架 | 第4章 |
| L233 | 機器學習建模與參數調校 | 資料清理、特徵工程、模型選擇、訓練評估、調參優化的完整流程 | 第5章 |
| L234 | 機器學習治理 | 資料隱私與法規、演算法偏見與公平性 | 第6章 |
※ 本頁是學習輔助整理,實際評鑑範圍以 iPAS 官方簡章與學習指引為準。
機器學習建模與參數調校
模型準不準,一半以上取決於演算法「以外」的功夫:資料洗得乾不乾淨、特徵設計得好不好、模型挑得對不對、訓練評估嚴不嚴謹、參數調得細不細。這一章就是完整的建模工程流程:5.1 備料 → 5.2 挑模型 → 5.3 訓練與評分 → 5.4 調校與瘦身。
5.3 模型訓練、評估與驗證怎麼練、怎麼打分數
- 為什麼要切三份資料?訓練集=上課用的課本;驗證集=平時小考(拿來調整讀書方法);測試集=期末考(最後才打開,成績才算數)。用課本題目考自己,分數一定虛高。
- 超參數:訓練「前」由人決定的設定(學習率、樹的深度);參數:訓練「中」模型自己學的數值(權重)。
- 正類/負類:二元分類裡你關心的那一類叫「正類」(有病、是詐欺),另一類叫「負類」。
1️⃣ 訓練策略
- 資料分割:訓練集學參數、驗證集調超參數並監控過擬合、測試集只在最後用一次做最終評估。資料夠多時可用 K-fold 交叉驗證提升評估穩定性。
- 批次策略:全量訓練(方向穩但吃記憶體)/SGD 一筆一更(快但震盪)/Mini-batch(深度學習標準做法)——批次大小影響梯度穩定性與速度,依 GPU 記憶體與任務調整。
- 學習率調整:固定學習率(簡單任務);遞減式(Step/Exponential Decay);動態調整(驗證效能停滯就自動降,如 ReduceLROnPlateau);預熱(Warm-up)——初期先用小學習率避免梯度爆炸,Transformer 類模型常用。
- 早停策略:驗證指標連續 N 次沒進步(Patience 容忍次數)或進步小於閾值(Minimum Delta)就停,防過擬合。
- 紀錄與監控:用 TensorBoard/WandB/MLflow 看損失曲線、管理超參數與模型版本、追蹤 GPU/記憶體——確保實驗可重現。
2️⃣ 分類任務評估指標(必考重點區)
一切從混淆矩陣開始——把預測結果分成四格:
| 實際為正 | 實際為負 | |
|---|---|---|
| 預測為正 | TP 真正 (抓對了) | FP 假正 (誤報:沒病說有病) |
| 預測為負 | FN 假負 (漏報:有病說沒病) | TN 真負 (正確排除) |
| 指標 | 公式 | 白話 | 什麼時候用 |
|---|---|---|---|
| 準確率 Accuracy | (TP+TN) ÷ 全部 | 整體猜對的比例 | 類別均衡時好用;類別不平衡時會騙人——95% 是負類時全猜負也有 95% 準確率 |
| 精確率 Precision | TP ÷ (TP+FP) | 「我說是正的裡面,真的是正的比例」——預測的可信度 | 誤報代價高時(垃圾郵件誤擋重要信、誤診嚇病人) |
| 召回率 Recall | TP ÷ (TP+FN) | 「實際是正的裡面,我抓到的比例」——漏網之魚多不多 | 漏報代價高時(癌症漏診、詐騙漏抓) |
| F1 分數 | 2 × (P×R) ÷ (P+R) | 精確率與召回率的調和平均——兩者的綜合成績 | 需要兩者平衡、且類別不平衡嚴重時 |
| ROC-AUC | ROC 曲線下面積 | 「所有可能門檻下」模型區分正負類的整體能力,越接近 1 越強 | 需要綜觀整體、或還要調分類門檻時 |
Precision 分母是「預測為正」(TP+FP);Recall 分母是「實際為正」(TP+FN)。精確率管誤報、召回率管漏報。醫療篩檢怕漏 → 重召回率;寄送高成本行銷怕打錯人 → 重精確率。
3️⃣ 迴歸任務評估指標
| 指標 | 公式概念 | 特點 |
|---|---|---|
| MSE 均方誤差 | 誤差平方的平均 | 大誤差罰很重,適合「大錯不可饒恕」的任務(金融風險、製程品質) |
| MAE 平均絕對誤差 | 誤差絕對值的平均 | 對異常值不敏感,估計穩定,適合偏態或含極端值的資料 |
| RMSE 均方根誤差 | MSE 開根號 | 保留 MSE 的懲罰特性,但單位跟目標變數一樣(好解讀),報告最常用 |
| R² 決定係數 | 1 − RSS/TSS | 模型解釋了多少變異。R²=1 完美;R²=0 跟「直接猜平均值」一樣爛;R²<0 比猜平均還爛 |
三間房的實際價 vs 模型預測(萬):1000→1010、800→790、600→680(最後一間嚴重失準)。誤差=+10、−10、+80。
MAE = (10+10+80) ÷ 3 = 33.3 萬|MSE = (10²+10²+80²) ÷ 3 = (100+100+6400) ÷ 3 = 2200|RMSE = √2200 ≈ 46.9 萬
看出差別了嗎?那筆 +80 的大錯,在 MSE 裡貢獻了 97%(6400/6600)——平方會放大大誤差。「MSE 重罰大錯、MAE 一視同仁」就是這個意思。
4️⃣ 綜合評估策略
- 別只看一個指標:分類搭配 Accuracy+F1+ROC-AUC+混淆矩陣;迴歸搭配 MAE+RMSE+R²,觀察誤差分佈。
- 類別不平衡三招:類別重加權(訓練時給少數類別更高權重);SMOTE 過採樣(合成少數類別新樣本,保留樣本空間結構);異常值建模(極端不平衡時乾脆當異常偵測做——Isolation Forest、One-Class SVM)。
- 業務導向自訂指標:醫療自訂誤判成本矩陣(漏診罰更重);推薦/行銷用 NDCG、收益導向的 Profit Score。
- 多輪驗證看穩定性:不要只看單次實驗,用交叉驗證+箱型圖觀察多輪表現的分佈與變異。
5️⃣ 交叉驗證方法(比較表必背)
- 交叉驗證:只切一次訓練/驗證可能剛好切到「好切」或「難切」的組合——多切幾次、輪流當驗證集、取平均,評估才可靠。
| 方法 | 做法 | 特點 | 適用 |
|---|---|---|---|
| K-fold | 資料均分 K 份,輪流用 1 份驗證、K−1 份訓練,做 K 次取平均(常設 K=5 或 10) | 減少切分偶然性;計算成本 K 倍 | 中大型資料的通用標準方法 |
| Stratified K-fold | K-fold+分層抽樣:每一份的類別比例都跟整體一致 | 解決類別不均導致的評估失真 | 不平衡分類(詐欺、疾病)的預設方式 |
| LOOCV | K = 樣本數 n 的極端版:每次只留 1 筆當驗證,做 n 次 | 資料利用最大化、評估偏差最小;但要訓練 n 次,計算成本爆炸 | 樣本極少又珍貴(臨床研究、稀有病資料) |
| Repeated K-fold | K-fold 重複多輪(如 10-fold × 5 次),每輪重新隨機切分 | 結果更穩、可估變異範圍與信賴區間;成本更高 | 調參比較、學術報告、金融醫療等要求高重現性的流程 |
「訓練好、測試爛」是過擬合的標準症狀:模型把訓練集的細節與雜訊背起來了。解法:正則化、降低模型複雜度、Early Stopping、增加資料。
LOOCV(Leave-One-Out)=「留一法」:K 等於樣本數 n,每次只留 1 筆驗證、其餘全部訓練,共做 n 次。資料利用最大化,但要訓練 n 次、計算成本極高,只適合小樣本。
「隨機關閉神經元」就是 Dropout 的定義:每次訓練用不同的「子網路」,避免神經元互相依賴。Early Stopping 是提早停止訓練;Batch Normalization 是標準化各層輸出;Quantization 是壓縮模型精度。
中級科目三 機器學習技術與應用全貌試看版只開放「5.3 模型訓練、評估與驗證」;其餘購買後開放
第3章 機器學習基礎數學
第4章 機器學習與深度學習
第5章 機器學習建模與參數調校
第6章 機器學習治理
這只是中級科目三 機器學習技術與應用白話指引 12 節中的 1 節
你剛看到的名詞小卡、玩玩看、官方練習題互動化,五科白話指引每一節都是這樣做的。完整版還有:
- 白話學習指引:初級 2 科+中級 3 科,官方 600 多頁指引整份白話改寫,名詞小卡+玩玩看+官方練習題
- 考古題全卷與 4,000 題以上變化題:逐題詳解,錯的選項也說清楚為什麼錯
- 中級程式題:逐行解析 35 題+程式題預測 20 頁完整練習(可在瀏覽器執行)
- 互動實驗室 55 座、複習筆記 2.0、官方推薦書重點整理、Python 學習中心、AI 面試官教學站
- 貓老師弱點分析:用你的錯題算出考前最該補的考點
- 考前預測與 6 份 PDF:每次考前更新;帳號永久使用、持續更新