跳到正文

算法、任务与模态

Contrastive Learning 最新动态

Contrastive Learning 研究索引;按可核对的标签归档,不以热度评价质量。

183 条精选近 30 天 44 条共收录 245 条

更新

精选归档 · 第 10 页

1月1日周五第 181–183 条
  1. OpenReview · Representation learning70

    采用可训练增强通道的对比表征学习

    基于摘要分析。该研究关注图像对比表征学习中,数据增强可能过度破坏实例信息、进而导致表征坍塌的问题,提出用随机编码框架与 infoMax 目标学习依赖数据的增强分布,作为这一问题的部分解决方案。 核心机制是将增强引入的数据破坏与编码器保留的信息形式化为相互制衡的过程,而非仅使用预先固定的增强分布。作者报告,基于该框架的 infoMax 目标能够学习数据依赖的增强分布,以避免表征坍塌。摘要未提供目标函数的具体形式、增强通道的参数化方式、优化流程或坍塌判据,因此不能据此断言其采用对抗训练或特定网络结构。数据集、对照基线、评估指标、实验协议、消融及统计信息尚未验证。 平台推测(待验证):假设 EEG 自监督对比学习中的增强同样可能破坏任务相关信息,那么可训练增强分布可能有助于协调增强强度与信息保留。原方法以图像实例区分为背景,依赖增强后仍可保留可识别信息;迁移时可借鉴增强分布学习与编码器之间的协调机制,但需改造为符合 EEG 时序、频谱及通道结构的增强操作。低信噪比下,保留的信息可能是伪迹或被试特征而非任务信号;通道差异和小数据也可能使增强策略过拟合。 一个可检验的小实验是假设检验:在固定 EEG 数据划分、编码器与训练预算下,对比固定增强分布和可训练增强分布,同时评估表征坍塌与下游任务表现,并分别报告被试内和跨被试结果。该建议不代表已有 EEG 效果,相关 EEG 工作尚未检索确认;复现原论文前还需核对全文中的增强定义、目标函数与优化条件。

    阅读价值:值得阅读其如何通过随机编码框架与 infoMax 目标学习数据依赖的增强分布,以应对增强过度破坏信息导致的表征坍塌;具体实验效果及 EEG 适用性尚未验证。

  2. OpenReview · EEG74

    EEG 数据上的自监督学习

    基于摘要分析。该研究针对临床 EEG 标注依赖专业知识、耗费人工时间而无标签数据相对丰富的问题,采用对比式自监督学习提取 EEG 表征,并在基于 EEG 的睡眠分期和病理检测两个任务上评估其分类价值。 核心思路是先从无标签 EEG 中学习结构,再使用自监督学得的特征训练线性分类器,以减少下游任务对标签的依赖。摘要明确说明采用对比式方法,但未提供正负样本构造、信号窗口、数据增强、损失函数、编码器架构及预训练细节,这些机制尚未验证。 作者报告,在低标签数据条件下,基于自监督特征的线性分类器持续优于纯监督深度神经网络;在全部标签可用时,取得具有竞争力的表现。摘要未提供具体指标、数值、数据集、被试规模,也未说明采用被试内、跨被试或跨会话评估,因此不能据此判断收益幅度或泛化范围。“全部标签”仅指研究所用评估条件,不代表任意 EEG 任务上的充分监督效果。 该工作的直接证据限于睡眠分期和病理检测,不等同于已验证 BCI 解码收益。复现时需核对无标签预训练与下游评估的数据划分关系、标签预算设置、监督基线的训练配置,以及线性分类器的拟合方式。实验协议、消融及统计信息尚未验证,代码与数据可获取性也尚未验证。

    阅读价值:值得阅读的具体原因是作者报告对比式自监督 EEG 表征配合线性分类器在少标签条件下优于纯监督深度神经网络,可作为评估标签效率的研究参照,但具体划分、基线及统计信息尚未验证。

  3. OpenReview · Representation learning73

    CuCo:基于课程对比学习的图表示

    基于摘要分析。本文研究整个图的低维表示学习,针对既有图对比学习主要关注正样本增强、负样本作用探索较少的问题,提出自监督图级表示学习框架 CuCo,以从易到难的负样本选择组织训练。原论文的主要对象是图表示与图分类,并非 EEG 或 BCI。 核心机制:作者引入四种图增强技术构造正、负样本,并使用图神经网络学习表示;随后通过评分函数对负样本难度排序,再用 pacing function 自动选择各训练阶段使用的负样本。摘要未给出具体增强操作、难度评分定义、节奏函数形式、对比损失及网络结构,这些实现细节尚未验证。 结果与证据范围:作者报告,在十五个真实世界图分类数据集上开展的实验及参数分析显示,CuCo 在分类表现和收敛方面取得积极结果。摘要没有提供数据集名称、划分协议、对照方法、具体指标或数值,因此不能据此判断提升幅度或不同任务上的稳定性;实验协议、消融及统计信息尚未验证。 平台推测(待验证):若将每段 EEG 表示为以通道为节点、通道关系为边的图,CuCo 的负样本难度排序与课程调度可能用于研究 EEG 图级自监督学习中负样本选择的问题。这一假设依赖图构造、增强方式和负样本语义,需要改造 EEG 图增强与难度度量,不能直接沿用原领域结论。低信噪比、跨被试差异、通道配置变化和小样本条件可能使难度排序反映噪声或被试身份,而非任务相关信息;语义相近的片段也可能成为假负样本。可检验的小实验是在固定 EEG 图构造、编码器、增强和训练预算下,比较随机负样本选择与课程式选择,并在按被试隔离的 Cross-subject 划分中评估下游分类及收敛稳定性。已有 EEG 相关工作尚未检索确认。

    阅读价值:值得阅读的具体原因是 CuCo 将图级自监督对比学习的关注点从正样本增强扩展到负样本难度排序与训练节奏控制,可进一步核对其分类表现和收敛收益是否来自课程式负样本选择。