MaskedCLIP：连接掩码特征空间与 CLIP 特征空间的半监督医学视觉语言预训练

基于摘要分析。该研究面向医学图像基础模型，研究如何同时利用图文配对数据与未配对图像，避免仅采用视觉语言预训练或图像自监督预训练所带来的特征学习局限。作者提出 MaskedCLIP，将掩码图像建模与对比语言图像预训练结合，用于半监督视觉语言预训练；原论文的验证对象是视网膜图像分析，而非 EEG 或 BCI。 核心机制是处理两种预训练路径产生的特征空间不兼容问题。作者用 bridge transformer 连接掩码特征空间与 CLIP 特征空间，使语义更具体的 CLIP 特征能够利用更通用的掩码特征进行语义提取；再通过 masked knowledge distillation loss，将 CLIP 空间中原始图像特征的语义知识蒸馏回掩码空间中的预测图像特征，形成双向交互。摘要未提供蒸馏目标的具体形式、训练调度或推理流程。 作者报告，视网膜图像分析实验支持方法的有效性与数据效率，但摘要没有给出数据集、数据划分、配对比例、对照基线及具体指标，因此无法量化收益或判断其适用范围。实验协议、消融及统计信息尚未验证；复现还需核对图像与文本的对应关系、未配对数据来源、模型配置及实现可用性。 平台推测（待验证）：可迁移的假设是，当 EEG 同时存在带文本描述的数据和无文本信号时，掩码建模与跨模态对比学习之间也可能需要显式的特征连接。可复用的是桥接与反向语义蒸馏思路，需改造信号编码器、时间或通道掩码方式及文本监督定义。低信噪比、跨被试差异、通道配置不一致和小规模配对数据可能导致语义对齐失败。一个可证伪的小实验是在固定 Cross-subject 划分与配对数据量下，对比单独掩码预训练、单独图文对比预训练及桥接联合预训练，检验桥接与蒸馏是否带来稳定收益。已有 EEG 相关工作尚未检索确认。