面向内镜视频分析的多视图掩码对比表征学习
Multi-view Masked Contrastive Representation Learning for Endoscopic Video Analysis
基于摘要分析。本文研究内镜视频自监督预训练,针对复杂相机运动、病灶分布不均与遮蔽,以及对比学习表征可能缺乏细粒度信息的问题,提出 Multi-view Masked Contrastive Representation Learning(M²CRL),将多视图掩码建模与对比学习结合,以兼顾像素级感知和整体判别能力。 机制上,框架在全局视图中采用帧聚合注意力引导的管状掩码(tube mask),捕获对全局时空变化敏感的表征;在局部视图中采用随机管状掩码,关注局部变化。其核心设计是为不同尺度视图配置不同掩码策略,而非仅使用对比学习。具体预测目标、损失组合、注意力计算及视图构造方式尚未验证。 作者报告,M²CRL 在 7 个公开内镜视频数据集上预训练,并在 3 个内镜视频数据集上微调,评估分类、分割和检测三类下游任务。按摘要给出的相对基线提升表述,相比 Endo-FM,分类 F1、分割 Dice 和检测 F1 分别提升 3.5%、7.5% 和 2.2%;相比 VideoMAE V2,分别提升 4.6%、0.4% 和 2.1%。摘要未明确这些增量是相对百分比还是百分点,不能据此换算绝对分数。数据集名称、划分方式、基线训练条件、消融及统计信息尚未验证。 平台推测(待验证):可迁移的机制假设是,全局与局部视图的差异化掩码可能帮助 EEG 自监督学习同时保留长时程结构与局部瞬态信息,但原研究依赖视频帧、空间区域及时间连续性,不能直接视为 BCI 证据。迁移时需重新定义时间—通道视图、管状掩码对应关系及注意力聚合方式;低信噪比可能使注意力追踪伪迹,通道布局差异与小数据也可能削弱收益。可在固定 Cross-subject 划分、相同骨干和预训练预算下,对比随机掩码与全局/局部差异化掩码,并检查下游指标及伪迹敏感性。已有 EEG 相关工作尚未检索确认。
值得关注其通过全局与局部视图的差异化掩码联合对比学习,兼顾内镜视频的细粒度感知与整体判别能力;其对 EEG 表征学习的适用性尚未验证。
来源:OpenReview · Representation learning · openreview.net