跳到正文
OpenReview · Representation learning· Guanyi Chu; Xiao Wang; Chuan Shi; Xunqiang Jiang·· 2021-01-01精选AI 评分73

CuCo:基于课程对比学习的图表示

CuCo: Graph Representation with Curriculum Contrastive Learning

AI 导读

基于摘要分析。本文研究整个图的低维表示学习,针对既有图对比学习主要关注正样本增强、负样本作用探索较少的问题,提出自监督图级表示学习框架 CuCo,以从易到难的负样本选择组织训练。原论文的主要对象是图表示与图分类,并非 EEG 或 BCI。 核心机制:作者引入四种图增强技术构造正、负样本,并使用图神经网络学习表示;随后通过评分函数对负样本难度排序,再用 pacing function 自动选择各训练阶段使用的负样本。摘要未给出具体增强操作、难度评分定义、节奏函数形式、对比损失及网络结构,这些实现细节尚未验证。 结果与证据范围:作者报告,在十五个真实世界图分类数据集上开展的实验及参数分析显示,CuCo 在分类表现和收敛方面取得积极结果。摘要没有提供数据集名称、划分协议、对照方法、具体指标或数值,因此不能据此判断提升幅度或不同任务上的稳定性;实验协议、消融及统计信息尚未验证。 平台推测(待验证):若将每段 EEG 表示为以通道为节点、通道关系为边的图,CuCo 的负样本难度排序与课程调度可能用于研究 EEG 图级自监督学习中负样本选择的问题。这一假设依赖图构造、增强方式和负样本语义,需要改造 EEG 图增强与难度度量,不能直接沿用原领域结论。低信噪比、跨被试差异、通道配置变化和小样本条件可能使难度排序反映噪声或被试身份,而非任务相关信息;语义相近的片段也可能成为假负样本。可检验的小实验是在固定 EEG 图构造、编码器、增强和训练预算下,比较随机负样本选择与课程式选择,并在按被试隔离的 Cross-subject 划分中评估下游分类及收敛稳定性。已有 EEG 相关工作尚未检索确认。

阅读价值

值得阅读的具体原因是 CuCo 将图级自监督对比学习的关注点从正样本增强扩展到负样本难度排序与训练节奏控制,可进一步核对其分类表现和收敛收益是否来自课程式负样本选择。

来源:OpenReview · Representation learning · openreview.net