跳到正文
OpenReview · Representation learning· Philip Andrew Mansfield; Arash Afkanpour; Warren Richard Morningstar; Karan Singhal·· 2023-01-01精选AI 评分76

用于自监督表征学习的随机场数据增强

Random Field Augmentations for Self-Supervised Representation Learning

AI 导读

基于摘要分析。本文研究图像自监督表征学习中的数据增强问题,提出基于 Gaussian random fields 的局部变换族,使变换参数随像素位置连续变化,扩展传统仿射与颜色变换所能覆盖的增强空间。 核心机制是将变换参数视为空间坐标的连续函数,并以相互独立的 Gaussian random fields 建模。相较于平移、旋转、颜色扰动等常见变换,这一方法允许参数逐像素变化,从而引入更丰富的局部扰动。摘要未说明具体自监督目标、随机场协方差设定、采样实现或计算开销,相关细节尚未验证。 作者报告,相对于其基线,ImageNet 下游分类的 top-1 Accuracy 提升为原文所述的“1.7%”,分布外 iNaturalist 下游分类提升为“3.6%”;摘要未明确这些提升是相对百分比还是百分点,也未交代后一指标的具体口径、基线配置及评估划分,不能据此作跨协议比较。作者同时报告,表征对增强超参数敏感:温和变换有益,过强变换可能破坏图像结构。实验协议、消融及统计信息尚未验证。 平台推测(待验证):可迁移的机制是以平滑随机场控制局部扰动,而非直接照搬图像增强。若用于 EEG 时频表征,需要将随机场作用于时间—频率坐标,并约束其不破坏任务相关频段与时序;不规则电极布局也不能直接等同于像素网格。其潜在价值是假设能增加合理扰动的多样性,但低信噪比和小样本可能使局部变换抹去有效信号,通道与被试差异也可能使合适强度不一致。一个可检验的小实验是在固定自监督目标、编码器和跨被试划分下,对照常规增强与不同强度的随机场增强,检查下游指标及跨随机种子的稳定性。原图像任务结果不构成 EEG/BCI 有效性证据,已有 EEG 相关工作尚未检索确认。

阅读价值

值得阅读的是以 Gaussian random fields 将全局图像变换扩展为空间连续变化的局部增强,并考察增强多样性与强度的权衡;其对 EEG 自监督表征的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net