在数字病理任务中，全切片图像（Whole Slide Image, WSI）通常非常大，无法直接输入神经网络。常见做法是先把 WSI 切成许多 patch，再用预训练 encoder 把每个 patch 编码成特征向量。这样，一张 WSI 就变成了一个由大量 patch feature 组成的 bag。
这正是多实例学习（Multiple Instance Learning, MIL）的典型设定：
- 一张 WSI 是一个 bag；
- 一个 patch feature 是一个 instance；
- 训练时通常只有 WSI 级别标签，例如”肿瘤 / 正常”或”癌症亚型 A / 亚型 B”；
- 模型需要根据 bag 中大量无标签 patch，预测整张 WSI 的标签。
传统 MIL 方法的核心问题是：如何把一堆 patch feature 聚合成一个 slide-level representation。
ABMIL 用 attention 做加权聚合，mean pooling 直接求均值，graph-based 方法通过图结构建模 patch 关系。这些方法都有效，但 cDP-MIL 论文认为，它们仍然存在一个共同弱点：很多聚合方式主要依赖均值差异等一阶统计量，而没有充分建模 patch feature 的完整分布结构。
换句话说，传统 MIL 更像是在问：
这些 patch 中哪些更重要？它们加权平均后能不能预测整张 WSI？
而 cDP-MIL 想进一步问：
这些 patch feature 是否形成了若干潜在病理模式？每种模式的均值、方差、协方差结构是什么？这些潜在模式又如何共同决定整张 WSI 的类别？
从 pooling 到 patch 分布建模
在普通 MIL pipeline 中：
这种流程直观、简单，但 patch feature 的分布结构可能被压缩掉。例如，两个 WSI 的 patch feature 均值可能接近，但内部结构完全不同：一张可能由大量正常组织和少量肿瘤区域组成；另一张可能由多个不同形态的肿瘤区域组成。它们的均值相似，但 feature 分布的形状、离散程度和内部相关性并不相同。
在 cDP-MIL 之前，DGMIL 已经注意到这个方向。DGMIL 提出用 feature distribution 来指导 instance classification，通过 cluster-conditioned feature distribution modeling 和 pseudo label-based iterative feature space refinement 来改善 WSI 分类与阳性 patch 定位。
cDP-MIL 的推进在于，它把 patch 分布建模放进了更系统的贝叶斯非参数框架中。DGMIL 更偏向”用分布信息引导判别式 MIL”，而 cDP-MIL 用 patch-level Dirichlet Process 显式形成 latent clusters，并为每个 cluster 建模均值和协方差；随后再用 slide-level Dirichlet Process 对这些 cluster centroids 进行分类预测。
方法 | 主要定位 | patch 建模方式 | 与 cDP-MIL 的关系 |
DGMIL | 分布引导的 MIL | 利用 cluster-conditioned feature distribution 辅助 instance classification | patch 分布建模方向的前作 |
cDP-MIL | 贝叶斯非参数 MIL | 用 patch-level DP 建模 latent clusters，并学习均值与协方差 | 对分布建模思路的贝叶斯化、非参数化扩展 |
cDP-MIL 的整体思路
cDP-MIL 的全称是 Cascaded Dirichlet Process Multiple Instance Learning，关键词有两个：
- Dirichlet Process：狄利克雷过程，一种贝叶斯非参数方法；
- Cascaded：级联，模型用了两个连续的 DP 模块。
整体流程：
两个核心模块：
- Patch-level DP aggregation：把一张 WSI 内的大量 patch feature 聚成若干 latent clusters，每个 cluster 对应一种潜在组织模式。
- Slide-level DP prediction：基于第一步得到的 cluster centroids 进行 slide-level 分类。
WSI 预处理
论文中的 WSI 预处理流程比较标准。使用 Otsu 阈值分割提取组织区域，切成 patch，用预训练的 KimiaNet encoder 提取 patch feature。
经过这一步后，一张 WSI 被表示为：
其中 表示第 张 WSI， 表示第 个 patch 的特征向量， 表示 patch 数量。
Patch-level DP Aggregation
cDP-MIL 假设一张 WSI 内的 patch feature 可以被分配到若干 latent clusters 中，每个 cluster 对应一种潜在组织模式。这些 cluster 由 Dirichlet Process 建模。
DP 的直观优势是：它适合处理”不知道真实聚类数量是多少”的问题。实际实现时，模型设置一个最大截断数 ，表示最多考虑 个 latent clusters，而非像 k-means 中的 那样强行指定真实聚类数量。
每个 patch 被分配到某个 latent cluster 后，模型计算每个 cluster 的 centroid。一张 WSI 被表示为一组 latent cluster centroids：
其中 是最大 cluster 数量， 是 centroid 的特征维度。
为什么需要 NIW 先验？
cDP-MIL 中，每个 DP cluster 被建模为一个多元高斯分布。这里自然会遇到一个选择：每个 cluster 的协方差应该怎么表示？
最简单的做法是使用 各向同性协方差：
这相当于假设每个 cluster 在所有特征方向上的扩散程度都一样。参数少、计算简单，但假设过强。对于 WSI patch feature 来说，不同病理模式在特征空间中的变化方向和幅度不太可能完全一致，这种假设通常过于粗糙。
稍微灵活一点的做法是使用 对角协方差：
这允许每个特征维度有不同方差，但仍然假设维度之间相互独立，只能描述"每个维度自己有多分散"，不能描述"不同维度如何一起变化"。
cDP-MIL 不满足于对角协方差，原因在于 WSI patch feature 通常来自深度 encoder（例如 KimiaNet），不同维度之间往往存在相关性。某些形态学模式可能同时影响多个 feature channel；肿瘤区域、间质区域、坏死区域等组织模式也可能在特征空间中形成有方向的、非轴对齐的分布。
对角协方差与完整协方差的区别可以这样理解：
- 对角协方差：每个 cluster 是一个"只能沿坐标轴伸缩的椭球"；
- 完整协方差：每个 cluster 是一个"可以旋转、有方向的椭球"。
对于复杂的病理图像特征，后者显然更有表达力。论文也明确提到，不同于一些传统 deep DP 方法依赖参数化技巧学习 diagonal covariance，cDP-MIL 学习 full covariance matrix，以更好地逼近每个组件的分布。
那么，NIW prior 在这里的作用是什么？
NIW，即 Normal-Inverse-Wishart prior，是多元高斯分布参数的常用先验，同时约束 cluster 的均值 和协方差矩阵 。它真正重要的地方是：为完整协方差矩阵提供一个合适的贝叶斯先验，使模型能够稳定地学习非对角的协方差结构。
如果不用 NIW，而直接学习完整协方差矩阵，会面临几个问题：
- 数值稳定性：协方差矩阵必须是合法的正定矩阵，直接学习容易出现不稳定；
- 过拟合风险：完整协方差参数量远大于对角协方差，在 WSI 数量有限时更容易过拟合；
- 推断适配性：贝叶斯框架下需要计算先验、后验和 KL 项，NIW 作为高斯参数的经典共轭先验，天然适合放进变分推断流程；
- 缺少正则化：没有先验约束时，模型可能学到退化的协方差结构，例如某些方向方差过小或过大。
因此，cDP-MIL 使用 NIW prior，本质上是在表达一个折中：
我们不想退回到过于简单的对角协方差，因为它无法建模 feature 维度之间的相关性；但也不能毫无约束地学习完整协方差，因为这会带来不稳定和过拟合。NIW prior 在完整协方差建模和贝叶斯正则化之间取得了平衡。
推理阶段
推理流程：
- 输入一张 WSI 的 patch feature bag；
- Patch-level DP 为 patch 分配 latent clusters；
- 根据 cluster assignment 计算 cluster centroids；
- Slide-level DP 判断这些 centroids 更支持哪个类别；
- 聚合 centroid-level 结果，输出 WSI-level 分类概率和预测类别。
模型的输入输出形式仍然接近常规 MIL：
不同之处在于，中间不再是一个普通 pooling embedding，而是一组由 DP aggregation 得到的 latent cluster centroids。
这里有一个容易被忽略的关键点：第二层 DP 的最大 mixture component 数就是类别数 。例如，二分类任务中 ，对应 tumor / normal；TCGA-NSCLC 亚型分类中 ，对应 LUAD / LUSC。如果是多分类任务， 就对应多个类别。
训练目标：用变分推断优化 ELBO
cDP-MIL 是贝叶斯模型，直接用 MCMC 等方法在大规模 WSI 场景下计算成本很高。因此论文使用变分推断，定义一个可优化的近似分布 ，让它尽可能接近真实后验分布，训练时优化 ELBO（evidence lower bound）。
训练目标同时包含：
- DP mixture 权重的变分分布要接近先验；
- 高斯组件参数的变分分布要接近 NIW 先验；
- Cluster assignment 要能解释输入 feature；
- 最终预测要符合 slide-level 分类标签。
因此，cDP-MIL 的训练同时学习 patch feature 的 latent cluster structure、cluster 的均值和协方差、slide-level 分类边界，以及预测不确定性。
Patch score、定位与不确定性
由于第一层 DP 在 patch level 建模 latent clusters，模型可以为每个 patch 计算一个 log-likelihood score，用于衡量某个 patch 与目标病理模式的相关程度。把 patch score 映射回原始 WSI，就可以得到热力图用于肿瘤区域定位。
与 attention heatmap 不同，cDP-MIL 的 heatmap 来自 patch-level DP 的后验似然或责任度，反映的是某个 patch 在模型学习到的潜在分布下与目标病理模式的关联程度。
同时，cDP-MIL 利用后验预测分布估计不确定性，论文中使用 slide-level DP 的 log-likelihood 作为 uncertainty measure，并在 OOD detection 任务中验证其效果。这对医学场景尤其重要——模型部署时可能遇到训练集外的数据分布，一个不知道自己”不确定”的模型在临床使用中风险更高。
与 BayesMIL 的关系
BayesMIL 使用贝叶斯 attention 框架，在 instance 上引入 log-normal mixture distribution 实现不确定性估计。cDP-MIL 则使用贝叶斯非参数方法，把整个 MIL 流程拆成两个 DP。
方法 | 核心思想 | 主要差异 |
BayesMIL | 贝叶斯 attention MIL | 在 instance attention 上引入概率建模 |
cDP-MIL | 贝叶斯非参数 MIL | 用级联 DP 建模 patch 聚类、slide 分类和不确定性 |
cDP-MIL 认为，BayesMIL 这类方法通常需要较强的分布假设，未必能很好拟合复杂的大规模 WSI 数据。Dirichlet Process 作为非参数贝叶斯方法，让模型在 latent cluster 建模上更加灵活。
实验结果
论文在 TCGA-COAD、TCGA-BRCA、TCGA-ESCA、TCGA-NSCLC 和 Camelyon 16 上验证，任务包括 cancer classification 和 cancer subtyping，评价指标包括 accuracy、F1-score 和 AUROC。
整体结果显示 cDP-MIL 在多个任务上超过 ABMIL、DSMIL、CLAM、TransMIL、HEAT、BayesMIL 等方法。消融实验支持了核心设计：
- DP pooling vs 其他聚合方式：在相同 prediction module 下，DP pooling 表现最好，说明 patch-level DP aggregation 本身有贡献；
- DP classifier vs MLP classifier：在相同 DP aggregation 下，DP classifier 表现更好，说明 slide-level DP prediction 也是必要组件；
- OOD detection 与 generalization：DP 后验 log-likelihood 可以作为有效的不确定性度量，帮助识别分布外样本。
从实现角度理解 cDP-MIL
对于想复现实验的人，cDP-MIL 可以看作对 MIL pipeline 中 aggregation 和 classifier 的替换：
WSI 切 patch、组织区域筛选、encoder 提特征这些步骤可以沿用常规流程。真正需要替换的是原来的 pooling 和 classifier。输入仍然是 ，输出仍然是 ，中间多出的是由 patch-level DP 得到的 。
