两类不确定性

有了无限的数据和模型能力,我们就能解决诊断问题吗?

原稿尚未公开

本文目录 04

定义

按定义,不确定性有两类,分别是:

1. 偶然不确定性(Aleatoric Uncertainty)

(也称不可约不确定性 / 数据不确定性)

这类不确定性来自数据生成过程本身固有的随机性或变异。即使你拥有完美的模型和无限的数据,这种“噪声”也无法消除。

可以把它理解为:即使条件看起来完全相同,仍会让结果发生变化的那些不可预测因素。

例子: 掷一枚公平骰子的结果、测量设备中固有的传感器噪声,或天气变化中的自然波动。

特点: 无法通过收集更多数据或改进模型来减少。

2. 认知不确定性(Epistemic Uncertainty)

(也称可约不确定性 / 模型不确定性)

这类不确定性来自我们对系统、模型或参数缺乏了解或信息。它源于我们尚不知道的东西。

原则上,可以通过获取更多数据、改进模型,或加深对底层过程的理解来减少这种不确定性。

例子: 训练数据集有限,导致模型参数存在不确定性;不确定哪种模型结构最适合描述某个现象;或因某些变量没有被测量而产生的不确定性。

特点: 可以通过收集更多数据、改进模型,或加深理解来减少。

与医学影像的关系

正如我在医学图像分析的挑战中提到的,医学影像存在“高维、小样本”的问题,所以我们显然面临着认知不确定性。

我们总是渴望更多数据、质量更好的数据,以及多样性更丰富、涵盖罕见疾病的样本。因为数据是改进模型最有效的方式——比那些巧妙的技巧(数据增强、损失函数等)更有效。这些技巧当然有帮助,但随着复杂度不断叠加,最终会出现收益递减,甚至负收益。

而在这样的样本量下,增加模型规模和“改进架构”似乎也很难带来相应的收益;新增的容量似乎更多是在记忆(过拟合),而不是泛化。

但我确实认为,偶然不确定性也在悄悄介入,而且程度超出了我们的预期。

当数据已经覆盖了相当多的变化,到了一个失败案例看起来倒像是标注错误的程度,它甚至会开始让算法开发者和初级标注员感到困惑。

我以前认为,这一定是标注质量的问题(仍属于可以减少的认知不确定性)。但医学图像复杂而难以辨识的特性,意味着其中总会存在无法消除的差异。

这就引出了一个很有意思的矛盾:构建模型时,我们究竟应该怎样处理“上下文”?

一个假想的例子

考虑这样一个场景:你正在开发一个肺结节检测器,本质上就是 在一片布满白色分支(支气管)的黑暗空间(肺)里,寻找孤立的白色团块。

你想减少上下文

你对当前版本很满意,把它部署到了生产环境。可突然间,不满的医生找上了你的产品经理,抱怨系统出现了愚蠢的假阳性:把患者胃里的食物残渣也报了出来。胃就在肺的下方不远处,里面的食物残渣碰巧也是黑暗空间中的白色团块。

这时候,增加一点数据几乎没用,因为在检测框提供的上下文范围内,它们是无法区分的。加入大量样本或许有帮助,但这本质上是在迫使模型从结节的视角,学会分辨肺和胃。

但转念一想,聪明的你可以把肺外的区域遮掉,只在肺内区域训练,以此解决问题。这是缩小问题空间的经典例子。我们把模型的任务从“找到肺,并找到结节”,简化为“在这个指定区域里找到结节”。

通过移除胃这个无关的上下文,我们直接处理了模型对解剖结构的无知——也就是它的认知不确定性。我们给了模型一条关键的先验知识,让它变得更聪明。

你想增加上下文

那么,这是否意味着缩小上下文总是正确答案?当然不是。这就来到了硬币的另一面:偶然不确定性。

想象另一个问题:模型正在分析 CT 上的一个病灶,判断它是否为恶性。单凭 CT 图像,可能本来就难以分辨;良性的炎症与癌性病灶,在结构上可能看起来完全一样。

无论收集多少 CT 数据,模型多么完美,它都无法确定地区分两者。这是真正的数据歧义——偶然不确定性。

要解决这个问题,你不能缩小上下文,而必须增加上下文。

你需要在结节区域之外寻找线索,而且很可能需要 整合多个来源的信息 。增加一种新的模态,比如 PET 扫描,就能给模型提供新的上下文——代谢活动。

不过,癌症和炎症都可能出现 FDG 摄取,因此 PET 并不会自动解决两者的区分问题。1

更广泛地说,我们应当补充与这种歧义相关的信息,例如临床病史、既往影像,或适当选择的额外检查。这可以减少在现有输入条件下的不确定性,但不保证得到确定的结论。

要点

构建稳健模型的艺术,就在于把握这种平衡。我们必须果断排除无关的上下文,简化模型的任务(减少认知不确定性);同时,也要主动寻找更全面、相关的上下文,澄清数据本身的含义(减少偶然不确定性)。

因此,选择恰当的上下文来建模,不只是重要——它就是构建有效 AI 系统的核心挑战。

那么,怎样选择恰当的上下文?我们会在利用先验知识中进一步讨论。

出处与延伸

参考资料

  1. EANM/SNMMI guideline/procedure standard for [18F]FDG hybrid PET use in infection and inflammation in adults v2.0: https://pmc.ncbi.nlm.nih.gov/articles/PMC11732780/ ↩

修正了 PET 的例子:炎症也会出现 FDG 摄取,因此增加相关信息可能有帮助,但不能保证得出诊断。

阅读 Markdown

医疗影像分析

3 / 7 查看完整阅读顺序
  1. 医学成像方式
  2. 医学图像分析的挑战
  3. 两类不确定性
  4. 利用先验知识
  5. 数据标注的思考
  6. LLM 是医学图像分析的解药吗?
  7. 解剖位置嵌入

Qianyi Zhang

你好,我是 Qianyi,一名常驻北京的机器学习工程师。 在我的个人网站了解更多 ↗

讨论

讨论即将开放。