科目三:機器學習技術與應用iPAS AI應用規劃師(中級)白話學習指引
🔍 試看版

📖 這份指引怎麼用 (試看版:只開放「5.3 模型訓練、評估與驗證」這一節)

這一頁是把官方 223 頁的《科目三:機器學習技術與應用》學習指引,整份重新用白話改寫的版本。內容範圍、章節編號都跟官方指引一致(第3~6章),方便你對照原文。

  • 🔑 每一節開頭都有「先搞懂這幾件事」:讀那一節之前需要的預備知識,先花一分鐘看完,正文就不會卡住。
  • 看到 這種小按鈕 都可以點:全站的專有名詞、數學符號都做成名詞小卡,每張卡用一個生活例子講給你懂,忘記就點一下。之後同一個名詞再出現時,會變成淡淡的虛線底線——一樣點得開。
  • 公式下面都有 💬 白話翻譯:看不懂符號沒關係,先看翻譯那一行。
  • 🎮 每一節都有「玩玩看」小實驗:用拉桿和按鈕把抽象的數學「玩」成直覺,強烈建議動手玩過再往下讀。
  • 📐 數學小教室、🧮 實際算一次:完全沒碰過的數學符號,會先用最基礎的方式帶一次、再用真實數字算給你看。
  • 每章結尾有官方的 10 題練習題:點選項立刻對答案、看解析。

🎯 科目三到底考什麼

官方把科目三切成四大主題,就是本頁的四章:

主題代號主題白話說明對應章節
L231機器學習基礎數學機率統計、線性代數、數值優化——模型背後的三種數學工具第3章
L232機器學習與深度學習三大學習類型、常見演算法、神經網路與深度學習框架第4章
L233機器學習建模與參數調校資料清理、特徵工程、模型選擇、訓練評估、調參優化的完整流程第5章
L234機器學習治理資料隱私與法規、演算法偏見與公平性第6章

※ 本頁是學習輔助整理,實際評鑑範圍以 iPAS 官方簡章與學習指引為準。

第5章

機器學習建模與參數調校

模型準不準,一半以上取決於演算法「以外」的功夫:資料洗得乾不乾淨、特徵設計得好不好、模型挑得對不對、訓練評估嚴不嚴謹、參數調得細不細。這一章就是完整的建模工程流程:5.1 備料 → 5.2 挑模型 → 5.3 訓練與評分 → 5.4 調校與瘦身

🔒 5.1 數據準備與特徵工程名詞卡 30・玩玩看 4・完整版開放
🔒 5.2 模型選擇與架構設計名詞卡 7・玩玩看 2・完整版開放

5.3 模型訓練、評估與驗證怎麼練、怎麼打分數

🔑 讀這節前,先搞懂這幾件事
  • 為什麼要切三份資料?訓練集=上課用的課本;驗證集=平時小考(拿來調整讀書方法);測試集=期末考(最後才打開,成績才算數)。用課本題目考自己,分數一定虛高。
  • 超參數:訓練「前」由人決定的設定(學習率、樹的深度);參數:訓練「中」模型自己學的數值(權重)。
  • 正類/負類:二元分類裡你關心的那一類叫「正類」(有病、是詐欺),另一類叫「負類」。

1️⃣ 訓練策略

  • 資料分割訓練集學參數、驗證集調超參數並監控過擬合、測試集只在最後用一次做最終評估。資料夠多時可用 K-fold 交叉驗證提升評估穩定性。
  • 批次策略:全量訓練(方向穩但吃記憶體)/SGD 一筆一更(快但震盪)/Mini-batch(深度學習標準做法)——批次大小影響梯度穩定性與速度,依 GPU 記憶體與任務調整。
  • 學習率調整:固定學習率(簡單任務);遞減式(Step/Exponential Decay);動態調整(驗證效能停滯就自動降,如 ReduceLROnPlateau);預熱(Warm-up)——初期先用小學習率避免梯度爆炸,Transformer 類模型常用。
  • 早停策略:驗證指標連續 N 次沒進步(Patience 容忍次數)或進步小於閾值(Minimum Delta)就停,防過擬合。
  • 紀錄與監控:用 TensorBoard/WandB/MLflow 看損失曲線、管理超參數與模型版本、追蹤 GPU/記憶體——確保實驗可重現。

2️⃣ 分類任務評估指標(必考重點區)

一切從混淆矩陣開始——把預測結果分成四格:

實際為正實際為負
預測為正TP 真正
(抓對了)
FP 假正
(誤報:沒病說有病)
預測為負FN 假負
(漏報:有病說沒病)
TN 真負
(正確排除)
指標公式白話什麼時候用
準確率 Accuracy(TP+TN) ÷ 全部整體猜對的比例類別均衡時好用;類別不平衡時會騙人——95% 是負類時全猜負也有 95% 準確率
精確率 PrecisionTP ÷ (TP+FP)「我說是正的裡面,真的是正的比例」——預測的可信度誤報代價高時(垃圾郵件誤擋重要信、誤診嚇病人)
召回率 RecallTP ÷ (TP+FN)「實際是正的裡面,我抓到的比例」——漏網之魚多不多漏報代價高時(癌症漏診、詐騙漏抓)
F1 分數2 × (P×R) ÷ (P+R)精確率與召回率的調和平均——兩者的綜合成績需要兩者平衡、且類別不平衡嚴重時
ROC-AUCROC 曲線下面積「所有可能門檻下」模型區分正負類的整體能力,越接近 1 越強需要綜觀整體、或還要調分類門檻時
⚠️ 記憶口訣

Precision 分母是「預測為正」(TP+FP);Recall 分母是「實際為正」(TP+FN)。精確率管誤報、召回率管漏報。醫療篩檢怕漏 → 重召回率;寄送高成本行銷怕打錯人 → 重精確率。

🎮 玩玩看:混淆矩陣指標計算機
情境:1000 人做疾病篩檢,其中 100 人真的有病。拉動兩個滑桿,四大指標即時重算——親手感受「準確率很高卻漏掉一堆病人」是怎麼發生的。
🎮 玩玩看:門檻滑桿與 ROC 曲線
同一個模型,把「判定為陽性」的門檻從嚴掃到鬆:抓到的病人(TPR)變多,被冤枉的健康人(FPR)也變多。紅點=你目前的門檻在 ROC 曲線上的位置;整條曲線下的面積就是 AUC。

3️⃣ 迴歸任務評估指標

指標公式概念特點
MSE 均方誤差誤差平方的平均大誤差罰很重,適合「大錯不可饒恕」的任務(金融風險、製程品質)
MAE 平均絕對誤差誤差絕對值的平均對異常值不敏感,估計穩定,適合偏態或含極端值的資料
RMSE 均方根誤差MSE 開根號保留 MSE 的懲罰特性,但單位跟目標變數一樣(好解讀),報告最常用
R² 決定係數1 − RSS/TSS模型解釋了多少變異。R²=1 完美;R²=0 跟「直接猜平均值」一樣爛;R²<0 比猜平均還爛
🧮 實際算一次:MSE、MAE、RMSE

三間房的實際價 vs 模型預測(萬):1000→1010、800→790、600→680(最後一間嚴重失準)。誤差=+10、−10、+80。

MAE = (10+10+80) ÷ 3 = 33.3 萬|MSE = (10²+10²+80²) ÷ 3 = (100+100+6400) ÷ 3 = 2200|RMSE = √2200 ≈ 46.9 萬

看出差別了嗎?那筆 +80 的大錯,在 MSE 裡貢獻了 97%(6400/6600)——平方會放大大誤差。「MSE 重罰大錯、MAE 一視同仁」就是這個意思。

R² = 1 − RSS ÷ TSS  (RSS = Σ(y−ŷ)²,TSS = Σ(y−ȳ)²)
RSS(殘差平方和)=「模型預測」跟實際值的差距總和;TSS(總變異平方和)=「直接猜平均值」跟實際值的差距總和。R² 就是在問:模型比無腦猜平均好多少?注意:R² 適合線性迴歸;跨資料集、非線性模型間不能直接比較。

4️⃣ 綜合評估策略

  • 別只看一個指標:分類搭配 Accuracy+F1+ROC-AUC+混淆矩陣;迴歸搭配 MAE+RMSE+R²,觀察誤差分佈。
  • 類別不平衡三招類別重加權(訓練時給少數類別更高權重);SMOTE 過採樣(合成少數類別新樣本,保留樣本空間結構);異常值建模(極端不平衡時乾脆當異常偵測做——Isolation Forest、One-Class SVM)。
  • 業務導向自訂指標:醫療自訂誤判成本矩陣(漏診罰更重);推薦/行銷用 NDCG、收益導向的 Profit Score。
  • 多輪驗證看穩定性:不要只看單次實驗,用交叉驗證+箱型圖觀察多輪表現的分佈與變異。

5️⃣ 交叉驗證方法(比較表必背)

🔑 讀這段前,先搞懂
  • 交叉驗證:只切一次訓練/驗證可能剛好切到「好切」或「難切」的組合——多切幾次、輪流當驗證集、取平均,評估才可靠。
方法做法特點適用
K-fold資料均分 K 份,輪流用 1 份驗證、K−1 份訓練,做 K 次取平均(常設 K=5 或 10)減少切分偶然性;計算成本 K 倍中大型資料的通用標準方法
Stratified K-foldK-fold+分層抽樣:每一份的類別比例都跟整體一致解決類別不均導致的評估失真不平衡分類(詐欺、疾病)的預設方式
LOOCVK = 樣本數 n 的極端版:每次只留 1 筆當驗證,做 n 次資料利用最大化、評估偏差最小;但要訓練 n 次,計算成本爆炸樣本極少又珍貴(臨床研究、稀有病資料)
Repeated K-foldK-fold 重複多輪(如 10-fold × 5 次),每輪重新隨機切分結果更穩、可估變異範圍與信賴區間;成本更高調參比較、學術報告、金融醫療等要求高重現性的流程
🎮 玩玩看:K-fold 怎麼切
每一列是一輪:金色=當驗證集的那一份、藍綠=拿去訓練的份。拉動 K 看切法怎麼變。
🔒 5.4 模型調整與優化名詞卡 16・玩玩看 2・完整版開放
✏️ 第5章 練習評量(官方 10 題)(試看 3 題)
點選你認為的答案,立刻對答案+看白話解析。
1. 在模型訓練過程中,若模型在訓練集表現良好,但測試集效能不佳,可能是發生了什麼問題?
答案(C)過擬合

「訓練好、測試爛」是過擬合的標準症狀:模型把訓練集的細節與雜訊背起來了。解法:正則化、降低模型複雜度、Early Stopping、增加資料。

2. 交叉驗證中,哪一種方法在每次驗證中只留下一筆樣本作為驗證集,其餘皆用於訓練?
答案(C)LOOCV

LOOCV(Leave-One-Out)=「留一法」:K 等於樣本數 n,每次只留 1 筆驗證、其餘全部訓練,共做 n 次。資料利用最大化,但要訓練 n 次、計算成本極高,只適合小樣本。

3. 在訓練深度學習模型時,隨機將部分神經元暫時關閉以減少過擬合的技術是什麼?
答案(B)Dropout

「隨機關閉神經元」就是 Dropout 的定義:每次訓練用不同的「子網路」,避免神經元互相依賴。Early Stopping 是提早停止訓練;Batch Normalization 是標準化各層輸出;Quantization 是壓縮模型精度。

🔒 本組其餘 7 題與其他章節的練習題完整版開放

中級科目三 機器學習技術與應用全貌試看版只開放「5.3 模型訓練、評估與驗證」;其餘購買後開放

第3章 機器學習基礎數學

🔒 3.1 機率與統計名詞卡 42・玩玩看 5・完整版開放
🔒 3.2 線性代數名詞卡 26・玩玩看 4・完整版開放
🔒 3.3 數值優化名詞卡 36・玩玩看 2・完整版開放

第4章 機器學習與深度學習

🔒 4.1 機器學習原理與三大類型名詞卡 28・玩玩看 2・完整版開放
🔒 4.2 常見機器學習演算法名詞卡 66・玩玩看 4・完整版開放
🔒 4.3 深度學習原理與框架名詞卡 58・玩玩看 5・完整版開放

第5章 機器學習建模與參數調校

🔒 5.1 數據準備與特徵工程名詞卡 30・玩玩看 4・完整版開放
🔒 5.2 模型選擇與架構設計名詞卡 7・玩玩看 2・完整版開放
📖 5.3 模型訓練、評估與驗證你正在看這一節
🔒 5.4 模型調整與優化名詞卡 16・玩玩看 2・完整版開放

第6章 機器學習治理

🔒 6.1 數據隱私、安全與合規名詞卡 17・玩玩看 2・完整版開放
🔒 6.2 演算法偏見與公平性名詞卡 12・玩玩看 2・完整版開放
🔒 ✏️ 官方練習題(4 組)點選即對答案+白話解析

這只是中級科目三 機器學習技術與應用白話指引 12 節中的 1 節

你剛看到的名詞小卡、玩玩看、官方練習題互動化,五科白話指引每一節都是這樣做的。完整版還有:

名詞小卡