任務 6

我們考慮一個多標籤分類問題。對於每個類別 \(c\), \(TP_c\) 表示屬於類別 \(c\) 且被正確識別為 \(c\) 的樣本; \(TN_c\) 表示不屬於類別 \(c\) 且被正確識別為不屬於 \(c\) 的樣本; \(FP_c\) 表示不屬於類別 \(c\) 卻被錯誤標記為屬於 \(c\) 的樣本; \(FN_c\) 表示屬於類別 \(c\) 卻被錯誤標記為不屬於 \(c\) 的樣本。

我們有以下度量:

  • 按類別的 召回率:
    \[
    \mathrm{Recall}_c = \frac{TP_c}{TP_c+FN_c}=P(\mathrm{pred} = c\mid\mathrm{true}=c);
    \]
  • 按類別的 精確率:
    \[
    \mathrm{Precision}_c = \frac{TP_c}{TP_c+FP_c}=P(\mathrm{true}=c\mid\mathrm{pred} =c);
    \]
  • 按類別的 特異度:
    \[
    \mathrm{Spec}_c = \frac{TN_c}{TN_c+FP_c}=P(\mathrm{pred}\neq c\mid\mathrm{true}\neq c);
    \]
  • 對於每一個依類別而定的誤差度量 \(M_c\),宏平均誤差度量為各類別分數的算術平均
    \[
    \mathrm{Macro}-M=\frac{\sum_c M_c}{\textrm{類別數}};
    \]
  • 對於標籤分佈 \(\pi=(\pi_c)\),準確率:
    \[
    \mathrm{acc}(\pi)=\sum_c\pi_c\mathrm{Recall}_c;
    \]
  • 若 \(C = (C_{ij})\) 為成本矩陣,其中 \(C_{ij} = \mathrm{Cost}(\mathrm{pred} = j\mid\mathrm{true} = i)\),則期望成本為
    \[
    \mathbb{E}_\pi(C) = \sum_{i,j}\pi_i P(\mathrm{pred} = j\mid\mathrm{true} = i)C_{ij}.
    \]

    你可以假設每個類別都有非零支持度,且分類器對每個類別都會產生正確與錯誤的預測(非退化)。
  1. 假設你處於二元分類器情境,類別為 \(0\) 與 \(1\)。證明:若
    \[
    \mathrm{accuracy}=\mathrm{precision}_1=\mathrm{recall}_1,
    \]

    則兩個類別的支持度必須相同。

[5 分]

對於其餘部分,你可以假設以下背景。

背景

一個公共衛生分流系統將收到的訊息分為三個類別之一:
\[
U = \text{緊急}, \quad
S = \text{半緊急}, \quad
N = \text{非緊急}.
\]

訓練資料集被刻意加入較多的緊急與半緊急案例。
在 訓練集 上,分類器產生了以下混淆矩陣
(列對應真實標籤,欄對應預測標籤):

真實 \(\backslash\) 預測 \(U\) \(S\) \(N\) 總計
\(U\) 200 30 20 250
\(S\) 30 270 50 350
\(N\) 10 30 360 400

對應的訓練標籤分佈為
\[
\pi_{\text{train}} =
\big(P(U)=0.25,\; P(S)=0.35,\; P(N)=0.40\big).
\]

在部署時,真實世界的標籤分佈不同:
\[
\pi_{\text{dep}} =
\big(P(U)=0.05,\; P(S)=0.15,\; P(N)=0.80\big).
\]

你可以假設分類器的條件行為是 穩定 的:
\[
P_{\text{train}}(\mathrm{pred} = j \mid \mathrm{true} = i) = P_{\text{dep}}(\mathrm{pred} = j \mid \mathrm{true} = i)
\quad \text{對所有 } i,j \in \{U,S,N\}.
\]

給定以下成本矩陣
(真實標籤為列、預測標籤為欄時的預測成本):

\[
C(\mathrm{pred} = j \mid \mathrm{true} = i) =
\begin{array}{c|ccc}
& U & S & N \\ \hline
U & 0 & 20 & 100 \\
S & 5 & 0 & 10 \\
N & 1 & 1 & 0
\end{array}
\]

  1. 在 \(\pi_{\text{train}}\) 與 \(\pi_{\text{dep}}\) 下分別計算 \(\mathrm{Precision}_U\)。
    解釋為何在分佈轉移下精確率會改變,而召回率不會。

[5 分]

  1. 考慮兩種選擇部署決策規則的策略:
    1. 最大化訓練準確率;
    2. 最小化部署期望成本。

解釋為何策略 (1) 可能導致部署時的期望成本高於策略 (2)。

[3 分]

[總分 13 分]