支持向量机（SVM）在LIDC-IDRI数据集上的多分类实现（肺癌检测）

支持向量机（SVM）在LIDC-IDRI数据集上的多分类实现（肺癌检测）

在肺部CT图像分类任务中，LIDC-IDRI数据集不仅支持二分类（良性 vs 恶性），还因其丰富的恶性程度评分（1-5）而适用于多分类任务，如区分“良性”、“可疑”和“恶性”结节。支持向量机（SVM）通过其强大的分类能力和灵活的核技巧，在多分类场景中表现出色。本文将深入探讨SVM在LIDC-IDRI数据集上的多分类实现，涵盖任务定义、数据集处理、多分类策略等内容，欢迎感兴趣的阅读。

---

一、任务定义与LIDC-IDRI数据集特点

1.1 多分类任务定义

LIDC-IDRI数据集为每个肺结节提供1-5的恶性程度评分（1：高度良性，5：高度恶性），由4位放射科医生独立标注。多分类任务的目标是将结节分为以下三类：

• 良性（Benign）：平均评分 ≤ 2。
• 可疑（Suspicious）：平均评分在 2-4 之间（不含边界）。
• 恶性（Malignant）：平均评分 ≥ 4。

任务形式：

• 输入：肺结节的3D CT图像区域（ROI）或其提取的特征（如纹理、形状、深度特征）。
• 输出：结节的类别标签（0：良性，1：可疑，2：恶性）。

1.2 数据集特点

• 样本数量：1018例CT扫描，包含数千个结节（每个患者1-20个），但有效标注样本受限于评分一致性。
• 标注特性：每结节有4位医生的评分，需通过平均或投票确定最终标签，存在主观性。
• 类别分布：
  • 良性结节占多数（约50-60%）。
  • 可疑结节次之（约30%）。
  • 恶性结节最少（约10-15%），导致严重不平衡。
• 挑战：
  • 不平衡数据：恶性结节样本稀少，模型易偏向多数类。
  • 标注噪声：医生评分不一致（如同一结节评分范围从2到4）。
  • 特征复杂性：可疑结节的特征介于良性和恶性之间，边界模糊。
  • 计算复杂度：多分类SVM训练时间随类别数增加而显著增长。

1.3 与二分类的区别

• 标签定义：二分类仅区分良性（评分≤2）与恶性（评分≥4），忽略可疑类；多分类需处理三类，增加分类难度。
• 模型复杂度：多分类需采用One-vs-Rest（OVR）或One-vs-One（OVO）策略，计算成本更高。
• 评价指标：二分类关注F1分数和ROC-AUC；多分类需考虑宏平均F1（macro-F1）、加权F1（weighted-F1）和混淆矩阵。

---

二、多分类SVM的数学原理

2.1 SVM多分类策略

SVM原生为二分类算法，需通过以下策略扩展到多分类：

• One-vs-Rest（OVR）：
  • 为每个类别训练一个二分类SVM，将该类别视为正类，其余类别合并为负类。
  • 共训练 $K$个分类器（$K=3$，即良性、可疑、恶性）。
  • 预测时，选择决策函数值最大的类别。
  • 优点：训练时间较短，适合类别数较多时。
  • 缺点：负类样本过多，可能导致偏向。
• One-vs-One（OVO）：
  • 为每对类别训练一个二分类SVM，共训练 $\left(\genfrac{}{}{0ex}{}{K}{2}\right)$ 个分类器（$K=3$，共3个：良性vs可疑、良性vs恶性、可疑vs恶性）。
  • 预测时，通过投票机制确定最终类别。
  • 优点：每个分类器训练样本较少，适合小样本场景，精度较高。
  • 缺点：分类器数量随类别数平方增长，计算成本高。

在LIDC-IDRI多分类任务中，推荐使用OVO，因为：

• 类别数较少（$K=3$），OVO的计算成本可接受。
• 可疑结节的特征复杂，OVO的精细分类器能更好捕捉类别间差异。

2.2 数学表述

以OVR为例，第$k$ 个分类器的优化目标为：
$$\underset{w_k,b_k,{\xi }_i}{\min }\frac{1}{2}\Vert w_k{\Vert }^2+C\sum {\xi }_i$$
约束条件：
$$y_i(w_k^T{x}_i+b_k)\ge 1-{\xi }_i,{\xi }_i\ge 0$$
其中，$y_i=1$ 如果样本属于类别 $k$，否则$y_i=-1$。

预测时，选择：
$$\text{Class}=\arg$$