Task 6 - Traditional Chinese
任務 6
我們考慮一個多標籤分類問題。對於每個類別 \(c\), \(TP_c\) 表示屬於類別 \(c\) 且被正確識別為 \(c\) 的樣本; \(TN_c\) 表示不屬於類別 \(c\) 且被正確識別為不屬於 \(c\) 的樣本; \(FP_c\) 表示不屬於類別 \(c\) 卻被錯誤標記為屬於 \(c\) 的樣本; \(FN_c\) 表示屬於類別 \(c\) 卻被錯誤標記為不屬於 \(c\) 的樣本。
我們有以下度量:
- 按類別的 召回率:
\[
\mathrm{Recall}_c = \frac{TP_c}{TP_c+FN_c}=P(\mathrm{pred} = c\mid\mathrm{true}=c);
\] - 按類別的 精確率:
\[
\mathrm{Precision}_c = \frac{TP_c}{TP_c+FP_c}=P(\mathrm{true}=c\mid\mathrm{pred} =c);
\] - 按類別的 特異度:
\[
\mathrm{Spec}_c = \frac{TN_c}{TN_c+FP_c}=P(\mathrm{pred}\neq c\mid\mathrm{true}\neq c);
\] - 對於每一個依類別而定的誤差度量 \(M_c\),宏平均誤差度量為各類別分數的算術平均
\[
\mathrm{Macro}-M=\frac{\sum_c M_c}{\textrm{類別數}};
\] - 對於標籤分佈 \(\pi=(\pi_c)\),準確率:
\[
\mathrm{acc}(\pi)=\sum_c\pi_c\mathrm{Recall}_c;
\] - 若 \(C = (C_{ij})\) 為成本矩陣,其中 \(C_{ij} = \mathrm{Cost}(\mathrm{pred} = j\mid\mathrm{true} = i)\),則期望成本為
\[
\mathbb{E}_\pi(C) = \sum_{i,j}\pi_i P(\mathrm{pred} = j\mid\mathrm{true} = i)C_{ij}.
\]
你可以假設每個類別都有非零支持度,且分類器對每個類別都會產生正確與錯誤的預測(非退化)。
- 假設你處於二元分類器情境,類別為 \(0\) 與 \(1\)。證明:若
\[
\mathrm{accuracy}=\mathrm{precision}_1=\mathrm{recall}_1,
\]
則兩個類別的支持度必須相同。
[5 分]
對於其餘部分,你可以假設以下背景。
背景
一個公共衛生分流系統將收到的訊息分為三個類別之一:
\[
U = \text{緊急}, \quad
S = \text{半緊急}, \quad
N = \text{非緊急}.
\]
訓練資料集被刻意加入較多的緊急與半緊急案例。
在 訓練集 上,分類器產生了以下混淆矩陣
(列對應真實標籤,欄對應預測標籤):
| 真實 \(\backslash\) 預測 | \(U\) | \(S\) | \(N\) | 總計 |
| \(U\) | 200 | 30 | 20 | 250 |
| \(S\) | 30 | 270 | 50 | 350 |
| \(N\) | 10 | 30 | 360 | 400 |
對應的訓練標籤分佈為
\[
\pi_{\text{train}} =
\big(P(U)=0.25,\; P(S)=0.35,\; P(N)=0.40\big).
\]
在部署時,真實世界的標籤分佈不同:
\[
\pi_{\text{dep}} =
\big(P(U)=0.05,\; P(S)=0.15,\; P(N)=0.80\big).
\]
你可以假設分類器的條件行為是 穩定 的:
\[
P_{\text{train}}(\mathrm{pred} = j \mid \mathrm{true} = i) = P_{\text{dep}}(\mathrm{pred} = j \mid \mathrm{true} = i)
\quad \text{對所有 } i,j \in \{U,S,N\}.
\]
給定以下成本矩陣
(真實標籤為列、預測標籤為欄時的預測成本):
\[
C(\mathrm{pred} = j \mid \mathrm{true} = i) =
\begin{array}{c|ccc}
& U & S & N \\ \hline
U & 0 & 20 & 100 \\
S & 5 & 0 & 10 \\
N & 1 & 1 & 0
\end{array}
\]
- 在 \(\pi_{\text{train}}\) 與 \(\pi_{\text{dep}}\) 下分別計算 \(\mathrm{Precision}_U\)。
解釋為何在分佈轉移下精確率會改變,而召回率不會。
[5 分]
- 考慮兩種選擇部署決策規則的策略:
- 最大化訓練準確率;
- 最小化部署期望成本。
解釋為何策略 (1) 可能導致部署時的期望成本高於策略 (2)。
[3 分]
[總分 13 分]