📖 這份指引怎麼用 (試看版:只開放「3.1 自然語言處理技術與應用」這一節)
這一頁是把官方 168 頁的《科目一:人工智慧技術應用與規劃》學習指引,整份重新用白話改寫的版本。章節編號與官方一致(第3~5章),方便對照原文。
- 🔑 每一節開頭都有「先搞懂這幾件事」:預備知識先花一分鐘看完,正文就不會卡住。
- 看到 這種小按鈕 都可以點:專有名詞都做成名詞小卡,每張卡用一個生活例子講給你懂。之後同一個名詞再出現時,會變成淡淡的虛線底線——一樣點得開。
- 🎮 每一節都有「玩玩看」小實驗:拉桿與按鈕把抽象概念玩成直覺,強烈建議動手玩過再往下讀。
- 📐 數學小教室、🧮 實際算一次:公式先用最基礎的方式帶一次、再用真實數字算給你看。
- ✏️ 每章結尾有官方練習題:點選項立刻對答案、看白話解析。
🎯 科目一到底考什麼
官方把科目一切成三大主題,就是本頁的三章:
| 主題代號 | 主題 | 白話說明 | 對應章節 |
|---|---|---|---|
| L211 | AI 相關技術應用 | 四大 AI 子領域各自是什麼、能做什麼:NLP、電腦視覺、生成式 AI、多模態 AI | 第3章 |
| L212 | AI 導入評估規劃 | 企業要不要導入 AI、怎麼評估、怎麼規劃、風險怎麼管 | 第4章 |
| L213 | AI 技術應用與系統部署 | 資料怎麼準備、模型怎麼選、系統怎麼整合上線與維運 | 第5章 |
※ 本頁是學習輔助整理,實際評鑑範圍以 iPAS 官方簡章與學習指引為準。
AI 相關技術應用
導入 AI 之前,得先認識武器庫裡有什麼。這章帶你逛四大 AI 子領域:讓機器懂語言的 NLP(3.1)、讓機器看懂世界的電腦視覺(3.2)、讓機器創造內容的生成式 AI(3.3),以及把它們全部接在一起的多模態 AI(3.4)。
3.1 自然語言處理技術與應用讓機器聽懂人話
- NLP=讓電腦「理解、處理、生成」人類語言的技術總稱。三個任務層次:理解(聽懂意圖情緒)→處理(轉成電腦能算的結構)→生成(產出自然語句)。
- 兩個子領域考題最愛:NLU=「理解」端(意圖辨識、NER、情感分析);NLG=「產出」端(摘要、回應生成)。客服機器人=先 NLU 聽懂、再 NLG 回話。
- 模型只認得數字——所以文字必須先變成向量,這個轉換的品質決定一切(本節重頭戲)。
1️⃣ 技術演進四階段(必背時間軸)
| 階段 | 年代 | 怎麼做 | 代表 | 罩門 |
|---|---|---|---|---|
| 規則式方法 | 1980s–1990s | 語言學家手寫語法規則與辭典——高可解釋、特定領域穩定 | ELIZA(關鍵詞比對聊天)、專家系統 | 全靠專家、擴展性差、規則維護成本高 |
| 統計語言模型 | 1990s–2010 | 大量語料訓練「機率」模型,自動學語言規律 | N-gram、HMM、CRF | 不懂深層語意、依賴大量標注、抓不到長距離依賴 |
| 深度學習 | 2010–2018 | 神經網路吃語言序列,自動抽特徵 | RNN、LSTM、GRU | 難平行運算、訓練久;RNN 有梯度消失 |
| 預訓練語言模型 | 2018–至今 | 自注意力+大規模語料預訓練再微調 | Transformer、BERT、GPT、RoBERTa、T5 | 算力需求極高、模型巨大 |
BERT=雙向 Transformer Encoder+遮蔽語言模型(MLM)→ 強在「理解」類任務(分類、問答、NER);GPT=單向 Transformer Decoder+自迴歸生成 → 強在「生成」類任務。「雙向上下文理解」四個字出現,答案就是 BERT。
2️⃣ 前處理五件套:先把文字洗乾淨
| 技術 | 做什麼 | 白話例子 |
|---|---|---|
| 分詞 | 句子拆成詞/子詞(BPE),語言處理的基本單位 | 「我愛自然語言處理」→我/愛/自然語言處理。切錯刀(自然/語言/處理)後面全歪 |
| 詞性標注 | 標記每個詞的語法角色(名詞/動詞/形容詞) | 「小明(名詞)昨天(副詞)去(動詞)北京(地名)」——NER 與關係抽取的地基 |
| 詞形還原 | 還原成字典形,考慮詞性語義——準但慢 | running/ran/runs → run(查字典的文雅版) |
| 詞幹提取 | 粗暴砍字尾取詞幹,不管語義——快但糙 | happiness → happi(美工刀裁過頭也認了) |
| 停用詞移除 | 丟掉 is/the/的/是 這種高頻低資訊詞 | 降維、凸顯關鍵詞;但對話生成要保留——拿掉「我」「在」句子就不自然(考點) |
3️⃣ 詞彙向量化:文字 → 數字的演進史(本節最大考區)
- 分布式 vs 非分布式:分布式=詞的意思由「跟誰一起出現」決定,語意近的詞向量就近(dog 和 cat 常出現在同款句子→住隔壁);非分布式=每個詞一個孤立向量,彼此毫無關聯(One-hot)。
- 語境型 vs 非語境型:語境型=同一個詞在不同句子有不同向量(bank 在「存錢」句是銀行、在「河邊」句是河岸);非語境型=一個詞永遠同一條向量,多義詞治不了。
- 詞嵌入=把詞變成「帶語意的數字向量」的技術總稱。
| 世代 | 代表 | 分布式? | 語境型? | 優點 | 罩門 |
|---|---|---|---|---|---|
| 純離散 | One-hot、Bag of Words | ✗ | ✗ | 簡單好實作 | 向量稀疏、無語意、維度爆高 |
| 統計型 | TF-IDF | ✗ | ✗ | 反映詞的重要性、效果穩定 | 忽略語序與上下文、治不了多義詞 |
| 統計共現 | N-grams | 有限 | 短範圍 | 保留語序與詞組 | N 一大特徵爆炸、稀疏嚴重、抓不到長距離 |
| 靜態詞嵌入 | Word2Vec、GloVe、FastText | ✓ | ✗ | 有語意結構、向量可運算、訓練成本低 | 每詞只有一個向量——bank 永遠同一條,多義詞投降 |
| 語境型詞嵌入 | ELMo、BERT、GPT | ✓ | ✓ 動態 | 語意精準、同詞異義迎刃而解 | 模型大、吃算力記憶體 |
(a) TF-IDF:這個詞對這篇文件多重要
語料庫 1,000 篇文件,「AI」只出現在 10 篇;某篇文件共 100 個詞、其中「AI」出現 3 次。
TF = 3 ÷ 100 = 0.03;IDF = log(1000 ÷ 10) = log(100) ≈ 2;tf-idf = 0.03 × 2 = 0.06。
拉拉看下面的互動:讓「AI」出現在越多文件,IDF 掉多快。
(b) Word2Vec:CBOW 與 Skip-gram
Google 2013 年提出,用神經網路把詞壓成語意向量。兩種訓練方式方向相反:CBOW=拿上下文猜中心詞(The cat __ on the mat → 猜 sits),訓練快、適合小語料;Skip-gram=拿中心詞猜上下文(sits → 猜 The/cat/on/the/mat),對低頻詞更有效、語意捕捉更好。經典彩蛋:king − man + woman ≈ queen——向量真的可以做語意算術。
GloVe(史丹佛 2014)不逐句學、改用整體共現矩陣做矩陣分解——king 和 queen 都常跟 throne/royal 同行,向量自然靠近。FastText(Meta 2016)把詞拆成子詞 n-gram(playing→pla/lay/ayi/…):沒看過的新詞(nationalization)也能用 nation+-al+-ization 拼出向量,OOV 剋星。
(c) N-grams:切出詞組保語序
4️⃣ Transformer:改變一切的架構
- Self-Attention 自注意力:處理每個詞時同時看整句所有詞並加權——「The cat that was chased by the dog ran away」中,隔了一堆詞照樣抓到 cat↔ran 的長距離依賴。RNN 逐字讀就常忘。
- Encoder-Decoder:Encoder 把輸入壓成語意向量、Decoder 逐步吐出目標文字——機器翻譯、摘要這種「一段進一段出」(Seq2Seq)任務的標準骨架。
- 全平行架構:不像 RNN 要逐時間步排隊,Self-Attention 一次算完整句——訓練大提速、GPU/TPU 吃好吃滿,才養得出 GPT-3 等巨型模型。
5️⃣ 用預訓練模型的三種姿勢
- Prompt-based 提示學習:把任務改寫成填空/問答讓模型直接作答——「這條評論是[情感]。」免再訓練。
- Few-shot 少樣本:給 5 條標好的範例,模型現學現賣;Zero-shot 零樣本:一條範例都不給,直接下指令分類郵件(官方例:判斷客訴信屬於「技術支援請求」)。
- RAG 檢索增強生成:先從外部知識庫檢索資料、再據以生成答案——治「一本正經胡說八道」的良方;LoRA 低秩自適應:只加訓一小撮低秩參數就能讓大模型適應新任務——邊緣設備部署 GPT 級模型的省錢術。
6️⃣ 應用全景與三層風險
應用六連發:文字分類(垃圾郵件、評論正負、客服工單分流)、情感分析(輿情監控、滿意度)、對話系統(任務導向訂票查天氣 vs 開放式 ChatGPT)、文字生成與摘要(新聞摘要、廣告標題、自動報表)、機器翻譯(商業文件、多語客服)、NER+關係抽取(法律醫療文本結構化、知識圖譜)。
| 風險層 | 重點 | 處理 |
|---|---|---|
| 資料層 | 隱私(對話紀錄含個資);標註品質與資料偏見;授權版權(爬蟲沒授權、生成內容侵權) | 去識別化(代碼替換/抽象化/遮罩——仍可能回連個體)vs 匿名化(徹底刪除/隨機化/聚合——無法再連結,考點:兩者程度不同!);來源合法授權+生成內容版權檢查 |
| 模型層 | 模型偏見(男主管=果斷、女主管=情緒化);公平性評估缺位 | WEAT 檢測詞向量偏見;平衡訓練資料;納入公平性指標+人工覆核 |
| 應用層 | 語意理解限制(「這服務真的好讚^_^」的反諷、「很雷」的方言);部署維運(效能下降、推論太慢);模型幻覺(「法國首都在柏林」——語氣自然、內容全錯) | 語境型詞向量+常識推理模組;回饋機制+監控再訓練;事實查核+高風險領域人工審核+風險預告聲明 |
「詞嵌入」=把詞壓成帶語意的向量——Word2Vec 是招牌。TF-IDF 和 BoW 雖然也把文字變數字,但只是統計計數、沒有語意結構,不算詞嵌入;Stop Words 是要被移除的停用詞。
「人名、地名、組織」三個詞一出現=NER 的招牌題。情感分析管正負情緒、主題建模挖主題、語音辨識管聲音轉文字。
BERT 的 B=Bidirectional(雙向):同時看前文與後文理解每個詞。它基於 Transformer 不是 RNN(A 錯);「單向」是 GPT 的特徵(C 錯)。
中級科目一 AI 技術應用規劃全貌試看版只開放「3.1 自然語言處理技術與應用」;其餘購買後開放
第3章 AI 相關技術應用
第4章 AI 導入評估規劃
第5章 AI 技術應用與系統部署
這只是中級科目一 AI 技術應用規劃白話指引 9 節中的 1 節
你剛看到的名詞小卡、玩玩看、官方練習題互動化,五科白話指引每一節都是這樣做的。完整版還有:
- 白話學習指引:初級 2 科+中級 3 科,官方 600 多頁指引整份白話改寫,名詞小卡+玩玩看+官方練習題
- 考古題全卷與 4,000 題以上變化題:逐題詳解,錯的選項也說清楚為什麼錯
- 中級程式題:逐行解析 35 題+程式題預測 20 頁完整練習(可在瀏覽器執行)
- 互動實驗室 55 座、複習筆記 2.0、官方推薦書重點整理、Python 學習中心、AI 面試官教學站
- 貓老師弱點分析:用你的錯題算出考前最該補的考點
- 考前預測與 6 份 PDF:每次考前更新;帳號永久使用、持續更新