📖 互動式學習講義 、 Interactive Lecture

模式辨認 的大門

Chapter 1 、 Introduction — from Theodoridis & Koutroumbas, Pattern Recognition

第一章是這本書的「入口大廳」:不講演算法、只講地圖——這個領域在解決什麼問題、一個分類系統由哪些零件組成、學習方式有哪幾種。頁內附 2 個可動手 Demo(畫線分類器、監督 vs 分群)與 3 張 SVG 圖(設計循環、全書地圖、職涯路線)。你已經學過第 7 章特徵工程,這章會幫你把「零件」裝到「整台機器」上。

5 節1.1–1.5
2 個互動 Demo
4 本筆記本
★概念章・低門檻
PART 0

開始之前:這章是你的「全景座標」

Orientation

你已經在自學套件中讀完 Ch7 特徵工程——那是在「怎麼把影像/聲音變成數字」的層級。這章站得更高:整台分類機器長什麼樣?

① 讀「白話講解」
概念章沒有公式負擔,重點是「能講給別人聽」。
② 玩「互動 Demo」
畫線分類器 5 分鐘,勝過讀 30 分鐘。
③ 跑「Python 筆記本」
把課本的醫療範例、輸送帶檢驗親手實作一遍。
🧠 搭配「00-知識地圖.md」使用:地圖 4 站 x 2–3 天可完成,接著就能無痛進入 Ch2(貝氏分類器)。
🗺️

知識地圖(路線總覽)

Knowledge map

先看地圖、再往下讀:R1 領域全貌 → 1.2 特徵與分類器 → 1.3 三種學習 → 全書地圖。完整版本(含學習基石與知識卡)見 00-知識地圖.md。

2026-08-22T17:36:02.923735 image/svg+xml Matplotlib v3.10.6, https://matplotlib.org/

四站路線(含難度與動手)

站主題章節難度時數動手
1領域全貌:定義+6 大應用1.1★1h—
2特徵向量與分類器(核心)1.2★★2hnb1 + Demo 1 畫線分類器
3三種學習(核心)1.3★★2hnb2 + Demo 2 監督 vs 分群
4全書地圖+迷你專案1.5★★2hnb3(輸送帶檢驗 93%/8 vs 0 100%)
PART 1

這門科學在幹嘛?難度 ★

Is pattern recognition important?

一句話定義:模式辨認(pattern recognition)是以「把物件分類到若干類別」為目標的科學。依應用不同,物件可以是影像、訊號波形或任何需要分類的量測值——統稱 pattern(樣本)。

pattern(樣本) → 特徵向量量測 → 類別分類器
本章的總骨架:量測 → 特徵向量 → 分類器 → 類別(公式列改用 HTML 排版,避開 KaTeX 對中文缺乏字型度量的問題)

課本說:模式辨認是「大多數機器智慧系統的核心零件」——工業自動化與資訊檢索把這個領域推上工程應用的浪頭。

六個應用故事(課本 1.1)= 六個就業開口

🏭 機器視覺

輸送帶製品即時檢驗「有缺陷/無缺陷」;組裝線認出「螺絲起子類」「板手類」→ 機械手臂抓取。

🔤 字元辨識 OCR

掃描 → 分割 → 分類每個字元。應用:支票閱讀、郵局分信、線上/離線手寫。

🏥 電腦輔助診斷

X 光、CT、超音波、ECG/EEG。課本例:乳癌攝影有 10–30% 漏診 → 系統當「第二意見」。

🎧 語音辨識

開口打字(比打字員快 2 倍)、遠端操控、輔助身心障礙者。

📊 資料探勘 & 內容檢索

CBIR(影像簽章檢索)、哼歌找音樂、DNA 序列比對。手動註記行不通 → 相似度搜尋。

🧬 生物辨識與人機互動

指紋、簽名、人臉、手勢;MPEG-7「搜尋所有『人物 X 在笑』的影片場景」。

🧠 口訣:「看缺陷、讀文字、助診斷、聽語音、挖資料、認人臉」——六個故事,就是今日 CV/語音/資料科學工程師的專案長相。
PART 2

特徵、特徵向量與分類器 難度 ★★ 核心

Features, feature vectors & classifiers

課本用一個「醫療影像分類」小故事,把整本書最重要的三個零件一次講完。

2.1 故事:良性 vs 惡性病灶

兩張影像,各有一塊區域:圖 a → 良性(class A),圖 b → 惡性(class B)。我們手上有一整個影像資料庫,每張的類別已知。

lesion A>>>
圖 1.1(a):良性病灶 class A(來源 pp4,已增強對比)
lesion B>>>
圖 1.1(b):惡性病灶 class B(來源 pp4,已增強對比)

第一步:找出可量測、能區分兩類的數量。課本量了「區域平均亮度 mean」與「亮度標準差 std」——把每張圖畫成 2D 散點圖(課本 Fig 1.2):

mean vs std>>>
圖 1.2(來源 pp5 掃描,低對比已增強):mean–std 散點圖,一條直線就能分開兩類

現在來一張新圖(圖中星號 ∗):量測後畫進圖裡——合理判斷:它比較可能是 class A。

🎯 這三個零件正式登場:特徵(feature)=量測值;特徵向量=一組特徵;分類器=那條「刀」(決策線)。

2.2 三個零件的正式定義

$$\mathbf{x}=[x_1,x_2,\ldots,x_l]^{T}$$
特徵向量:每個 pattern(樣本)唯一對應一個 x(課本 1.2)
術語白話課本重點
特徵 Feature從樣本量測出的「有意義數字」(本例:mean、std)問題依賴:怎麼產生?是四大問題之一
特徵向量 x把 $l$ 個特徵疊成一支「數字串」被視為隨機向量(量測噪音 + 個體差異)
分類器 Classifier把特徵空間切成類別區的「刀」2D 是決策線;$l$ 維是決策面/超平面
誤分類 Misclassification分錯了決策不保證正確——所以才要「評估」
訓練樣本 Training patterns類別已知、用來設計分類器的樣本監督式學習的燃料

2.3 分類系統的四大問題(設計循環)

#問題設計階段對應本書章節
1特徵怎麼產生?feature generationCh6–7(★你學過的 Ch7!)
2特徵數量 $l$ 取多少最好?feature selectionCh5
3分類器怎麼設計(照什麼準則)?classifier designCh2–4
4怎麼評估效能(錯誤率)?system evaluationCh10
🧠 精髓:四階段有回饋箭頭——效能不好就回去改前面;這正是業界「迭代開發」的原型。

設計循環圖(課本 Fig 1.3)

design cycle
Fig 1.3 原始掃描(來源 pp7,低對比已增強):patterns→特徵產生→特徵選擇→分類器設計→系統評估,含回饋箭頭

以下為同圖的 SVG 清晰重繪版(文字較易讀):

分類系統設計循環(課本 Fig 1.3 重繪) 五個階段 + 回饋箭頭:效能不好,隨時可以退回前面的階段重做 🎯 patterns / sensor 樣本 / 感測器 原始資料入口 🧮 feature generation 特徵產生 Ch6–7(你學過!) 🔍 feature selection 特徵選擇 Ch5 ⚖️ classifier design 分類器設計 Ch2–4 📈 系統評估 Ch10 錯誤率? ↺ 回饋:效能不好 → 回到前面階段重新設計(迭代開發的原型)
互動 Demo 1|畫線分類器重現課本 Fig 1.2 的故事:兩類樣本散點圖 → 你當「分類器設計師」畫一條決策線 → 看準確率
✏️ 在畫布上點兩下畫一條線(第一下=錨點,第二下=方向點)

💡 玩完請想想:
・為什麼連「最佳線」都無法 100% 正確?(答案:兩類特徵是隨機變數,會重疊)
・若改用「面積+圓度」當特徵,重疊會不會變小?(這是 Ch7 的主戰場)

PART 3

三種學習方式 難度 ★★ 核心

Supervised vs Unsupervised vs Semi-supervised

差別只有一件事:手上有沒有標籤?

監督式 Supervised非監督式 Unsupervised(叢聚)半監督式 Semi-supervised
標籤訓練樣本全部有完全沒有少量有 + 大量無
目標設計分類器發掘資料群組結構(clustering)借無標籤資料改善設計
課本範例病灶良惡分類多光譜遙測:辨識森林/土壤/水體must-links / cannot-links 約束
口訣「考卷有答案」「自己找同類」「幾題有答案,其餘靠推」
本書章節Ch2–10Ch11–16Ch10

遙測範例(課本 1.3):

衛星感測器量測地表在多個波段的反射能量(可見光–紅外:土壤礦物/含水量、水體沉積、植被含水量…)→ 每個格點形成特徵向量 → 叢聚演算法把特徵空間自然聚成的群找出來 → 分析者用參考地面資料幫每個群「命名」(森林/土壤/水體…)。

ground cover>>>
圖 1.4(來源 pp8 掃描,低對比已增強):(a) 各類地表覆蓋示意;(b) 雙波段特徵的叢聚結果
📌 非監督式的兩個關鍵議題:①「相似性」怎麼定義(度量選擇);② 用哪種叢聚演算法(不同演算法可能給不同結果,需專家解讀)。
🎯 半監督式的實務價值:標籤很貴的領域(醫療、法務)——標 100 張圖的錢,可以用 100 張標籤 + 9,900 張無標籤把系統做得更好。叢聚版半監督 = 把標籤變成「must-link(同群)」與「cannot-link(不同群)」的約束。
互動 Demo 2|監督 vs 分群:同一批資料,兩種玩法k-means 單步執行;再看「如果標籤存在」會是什麼樣

按「初始化中心」開始。每步:① 每個點指派到最近的中心 → ② 中心移到該群平均。重複直到收斂。

💡 對照「顯示真標籤」:分群結果與真標籤通常不完全一樣——因為非監督式沒有答案可對,能對上的程度取決於資料本身分得多開。

PART 4

全書地圖(1.5)難度 ★

Outline of the book

課本安排:Ch2–10 = 監督式;Ch11–16 = 非監督式;Ch10 也談半監督式。下面是全書路線圖——★ 標記處,是你已經讀過的地方(Ch7 特徵工程)。

全書地圖(課本 1.5) Ch2–10 監督式 ・ Ch11–16 非監督式(叢聚) ・ ★ = 你已讀過 📖 Ch1 導論 ← 你現在這裡 監督式 Supervised(Ch2–10) Ch2 貝氏機率分類 Ch3 線性感知機/SVM Ch4 非線性神經網路 Ch5 特徵選擇選最好的特徵 ★Ch7 特徵產生影像/音訊特徵 Ch8 模板匹配DP/Viterbi Ch9 HMM時序分類 Ch10 評估+半監督 🎓 你已在 self-learning suite 讀過 → 這章站 4 有全書定位 非監督式 Unsupervised(Ch11–16) Ch11 叢聚基礎相似度度量 Ch12 序列叢聚基本演算法 Ch13 階層叢聚single/complete link Ch14 成本最佳化ISODATA/fuzzy Ch15 其他叢聚法頻譜/模擬退火 Ch16 叢聚有效性內部/外部準則 建議「第一門課」路線:Ch2 → Ch3 → Ch4 →(Ch5/Ch7/Ch8 擇路)→ Ch10 → Ch11–13
🎯 建議「第一門課」路線:Ch2 貝氏 → Ch3 線性 → Ch4 非線性 →(Ch5 特徵選擇 / Ch7 特徵產生 / Ch8 模板匹配擇路)→ Ch10 評估與半監督 → Ch11–13 叢聚基礎。
PART 5

動手實作:四本筆記本

Hands-on labs

概念章更要動手——把課本的醫療範例、設計循環、輸送帶檢驗全部親手跑一遍。全在 handson/,合成資料、無需下載。

📓 nb0 熱身

NumPy + 散點圖(10 分鐘)

📓 nb1 資料與特徵向量

重現課本 Fig 1.2:生成兩類「病灶」特徵 → 畫 mean-std 散點圖 → 統計

📓 nb2 最小分類管線

把 1.2 的四大問題走完:資料→特徵→分類器(最近中心/暴力搜尋最佳線)→評估(準確率/混淆矩陣/樣本數實驗)

📓 nb3 迷你專案

重現 1.1 故事:輸送帶「良品/瑕疵」視覺檢驗 + OCR-lite「8 vs 0」孔洞分類

⚠️ 環境:pip install numpy matplotlib scipy scikit-image jupyter(與 Ch7 套件相同,若已裝過可直接沿用)。
PART 6

學完之後:職涯延伸路線圖

Career roadmap
2026-08-22T17:37:58.028733 image/svg+xml Matplotlib v3.10.6, https://matplotlib.org/

練功心法(避坑指南)

  • 這章不背、要能講——找個人把「六大應用 + 四大問題 + 三種學習」講一遍(費曼技巧)。
  • 先把 Demo 玩熟再往下走——「畫線分類器」能答出「為什麼最佳線也無法 100% 正確」,Ch2 就輕鬆了。
  • 與 Ch7 連起來——四大問題中的特徵產生/選擇,你有實作經驗;這章替你裝上全景座標。
  • 兩三天完成這章——它是入口,不是關卡;接著進 Ch2 貝氏分類器。