持续自监督学习：面向通用多模态医学数据表征学习

基于摘要分析。本文研究多模态医学数据的通用自监督表征学习，提出 MedCoSS，将不同模态安排在连续的预训练阶段中学习，以替代一次性混合全部模态的联合预训练，并应对新增模态与灾难性遗忘问题。其主要研究对象是临床报告和医学影像，而非 EEG 或 BCI。 机制上，MedCoSS 使用基于回放的持续学习：通过 k-means 采样保留先前模态的数据，在学习新模态时进行回放；同时对缓冲区数据应用特征蒸馏和模态内 mixup，以保留既有知识，这部分知识保持过程绕开预训练代理任务。该方案依赖对历史样本的存储与重用，具体缓冲区预算、采样表征、蒸馏目标及训练配置尚未验证。 作者报告，联合自监督学习中的表征冲突会随模态数量增加而出现；在包含临床报告、X-rays、CT、MRI 和病理图像的大规模无标签数据上进行预训练后，MedCoSS 在 9 个下游数据集上表现出泛化能力，并支持整合新增模态。摘要未提供各任务指标、具体对照、数据划分或数值增益，实验协议、消融及统计信息尚未验证。作者提供了代码与预训练模型链接，但本次未核验其内容。 平台推测（待验证）：可迁移的假设是，分阶段预训练与历史数据回放可能缓解 EEG 新数据接入时的遗忘，但原文的跨模态问题不等同于 EEG 的跨被试或跨会话偏移。可复用的是回放与知识保持框架；输入编码、采样表征及 mixup 的适用方式需要适配 EEG。低信噪比可能使 k-means 偏向伪迹或被试身份，通道差异与小样本也可能降低蒸馏效果。可先在固定通道配置下按会话顺序开展小规模预训练，对照顺序训练、单纯回放和完整方案，在相同历史数据预算下检验旧会话性能保持与新会话适应效果。已有 EEG 相关工作尚未检索确认。