跳到正文
OpenReview · Representation learning· Philip Mansfield; Arash Afkanpour; Warren Morningstar; Karan Singhal·· 2023-11-29精选AI 评分74

用于自监督表征学习的随机场数据增强

Random Field Augmentations for Self-Supervised Representation Learning

AI 导读

基于摘要分析。该研究针对图像自监督表征学习中数据增强决定表征不变性、而增强方式仍有待探索的问题,提出基于高斯随机场的局部变换族,将传统仿射与颜色变换扩展为参数可随像素位置变化的增强。 核心机制是将变换参数视为空间坐标的连续函数,并用相互独立的高斯随机场建模。与平移、旋转、color jitter 等传统增强相比,该方法扩大了局部变换的可能范围;具体随机场构造、参数化方式、自监督目标及训练流程尚未验证。 作者报告,在 ImageNet 下游分类中,相对基线的 top-1 Accuracy 提升为原文所述的 1.7%;在分布外 iNaturalist 下游分类中,提升为原文所述的 3.6%。摘要未明确这些数值是相对百分比还是百分点,也未明确后一指标、基线方法、数据划分和评估协议,不能据此进行跨协议比较。作者同时报告,温和变换有助于表征学习,但较强变换可能破坏图像结构,且表征对超参数敏感。实验协议、消融及统计信息尚未验证。 平台推测(待验证):其可迁移假设是以平滑随机参数场生成局部变化,帮助 EEG 自监督学习覆盖有限的时空扰动。原方法依赖图像空间坐标;迁移时需将参数场改造为时间轴或电极空间上的函数,并确认增强仍保留任务相关信号,而非直接照搬图像仿射与颜色变换。低信噪比、小数据、跨被试差异及不规则通道布局可能放大增强误差,破坏 ERP 时序或频谱线索。一个可证伪的小实验是在固定 Cross-subject 划分、自监督目标和下游评估协议下,对比无增强、常规增强与不同强度的随机场增强,检验温和增强能否稳定获益及强增强是否退化。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其高斯随机场如何控制局部增强的平滑性与强度,以及增强多样性带来收益和破坏图像结构之间的边界;其对 EEG 自监督学习的迁移价值尚未验证。

来源:OpenReview · Representation learning · openreview.net