跳到正文
OpenReview · Representation learning· Yifei Wang; Jizhe Zhang; Yisen Wang·· 2024-01-16精选AI 评分78

生成数据总能帮助对比学习吗?

Do Generated Data Always Help Contrastive Learning?

AI 导读

基于摘要分析。本文研究无监督视觉表征学习中,生成图像扩充训练数据是否总能改善对比学习,并提出 Adaptive Inflation(AdaInf),通过协调数据扩充与数据增强来改善表征学习。主要研究对象是图像对比学习,而非 EEG 或 BCI。 作者报告,即使采用 DDPM 等生成模型,生成数据也可能损害对比学习效果。论文从 data inflation(以生成数据扩充训练数据)与 data augmentation(数据增强)的关系分析原因,指出更强的数据扩充应配合更弱的数据增强,反之亦然;并通过推导数据扩充条件下的泛化界解释这一现象。AdaInf 被描述为不引入额外计算成本的纯数据中心策略,但其具体调节规则、生成数据成本的核算范围及理论假设尚需全文核对。 作者报告,在基准数据集上,AdaInf 可改善多种对比学习方法;其中,在不使用外部数据、采用 SimCLR 的 CIFAR-10 实验中,线性评估 Accuracy 达到 94.70%。摘要未提供训练与评估划分、生成数据规模、增强配置及重复实验信息,不能据此独立确认其相对其他方法的优势范围。实验协议、消融及统计信息尚未验证。摘要提供了代码地址,但实现与复现条件尚未核查。 平台推测(待验证):可迁移的假设是,生成样本比例与增强强度可能共同影响 EEG 对比学习中的语义保持,而非生成数据本身必然有益。复用该思路需要 EEG 生成样本和能保持任务相关信息的增强操作;图像增强需替换为适合时序与通道结构的操作。低信噪比、跨被试差异、通道配置变化及小数据条件下,生成偏差或过强增强可能破坏有效信号。可在固定 Cross-subject 划分、生成器仅使用训练被试数据的条件下,交叉改变生成样本比例与增强强度,并以无生成数据为对照,检验二者是否存在稳定的互补关系。该假设不是本文已验证的 EEG 结论,相关 EEG 工作尚未检索确认。

阅读价值

值得核对其生成数据扩充与数据增强强度的互补关系,以及 AdaInf 的具体调节规则;这为检验“生成数据越多越好”的假设提供了理论与实验切入点,但 EEG/BCI 适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net