持续自监督学习：迈向通用多模态医学数据表征学习

基于摘要分析。该研究面向临床报告与医学影像的通用表征预训练，提出 MedCoSS，以持续自监督学习替代一次性联合多模态预训练，旨在缓解模态间表征冲突，并支持逐步纳入新模态。 核心机制是将不同模态的数据安排到不同训练阶段。为兼顾新模态学习与旧知识保留，MedCoSS 使用基于回放的持续学习方法，通过 k-means 采样保留历史模态数据；学习新模态时，对缓存数据采用特征蒸馏与模态内 mixup，而非重新执行自监督前置任务。摘要未给出具体损失、缓存容量、模态顺序及训练配置。 预训练数据包含临床报告、X-rays、CT、MRI 和病理图像。作者报告，随着联合预训练模态数量增加，实验中出现表征学习冲突；在九个下游数据集上的评估显示，MedCoSS 具有较好的泛化能力及纳入新模态的扩展能力。摘要未提供数据集名称、任务、划分、对照方法或具体指标，因此不能量化优势。实验协议、消融及统计信息尚未验证。材料提供了代码与预训练权重链接，但其可用性和复现条件尚未核验。 平台推测（待验证）：其“历史样本回放＋特征蒸馏”机制可能用于研究 EEG 持续预训练中的遗忘问题，但原研究对象不是 EEG 或 BCI。该迁移假设依赖可保存的历史无标签样本及可蒸馏的特征表示；可复用回放与蒸馏框架，但需改造时序编码、自监督任务及适合 EEG 的增强策略。低信噪比、跨被试差异和通道配置变化可能使 k-means 缓存偏向噪声或特定被试，模态内 mixup 的适用性也需验证。可先在固定通道配置下按被试组顺序预训练，使用相同缓存预算比较无回放、仅回放与回放加蒸馏，检验旧被试组性能保持及新组迁移效果。已有 EEG 相关工作尚未检索确认。