MedNeXt-v2:扩展 3D ConvNeXt 以实现医学图像分割的大规模有监督表征学习
MedNeXt-v2: Scaling 3D ConvNeXts for Large-Scale Supervised Representation Learning in Medical Image Segmentation
基于摘要分析。本文研究大规模有监督预训练中,3D 医学图像分割骨干能否有效学习可迁移表征,而不只关注预训练数据量。作者提出 MedNeXt-v2,通过改进 3D ConvNeXt 微架构并联合扩展深度、宽度和上下文规模,提升体积图像分割的表征学习能力。 机制与研究设计:作者先开展骨干基准比较,再进行规模扩展;作者报告,常用预训练骨干并非总是最优,从头训练时表现较强的骨干,在预训练后的下游任务上也往往更强。MedNeXt-v2 引入 3D Global Response Normalization,并结合深度、宽度与上下文扩展。摘要未提供该模块的具体实现、损失函数或各扩展维度的配置,尚不能判断其独立贡献。 数据与结果:作者在 18k 个 CT 体积上预训练,并在覆盖 144 个结构的六个 CT 与 MR 基准上微调;作者报告,相较七个公开发布的预训练模型取得一致提升,并达到其所称的最先进表现。摘要未列出具体基准名称、指标数值、数据划分及微调预算,因此无法量化提升或核对比较条件。 作者还报告,较强骨干在相似数据上表现更好,表征规模扩展对病理分割的收益更突出,而在全量微调条件下,模态专属预训练的额外收益可忽略。这些结论的适用范围、消融及统计信息尚未验证。作者说明代码与预训练模型通过官方 nnUNet 仓库提供,具体配置及复现条件仍需查阅正文与实现。 本文主要对象是 CT/MR 体积图像分割,并非 EEG 或 BCI。其机制依赖三维空间结构和有监督分割数据,摘要尚不足以建立向 EEG/BCI 迁移的具体对应关系;不应将医学影像结果解读为 BCI 有效性证据。
值得核对其“从头训练表现可预测预训练后下游表现”的骨干筛选结论,以及骨干结构、预训练规模和全量微调之间的作用边界;这些结论目前仅有摘要层面的证据。
来源:OpenReview · Representation learning · openreview.net