跳到正文
OpenReview · Representation learning· Daniel Shalam; Simon Korman·· 2024-01-01精选AI 评分78

通过平衡自注意力匹配进行无监督表征学习

Unsupervised Representation Learning by Balanced Self Attention Matching

AI 导读

基于摘要分析。该研究主要面向图像的无监督表征学习,提出 BAM,以不同增强视图的自注意力分布匹配替代直接特征匹配,旨在学习有信息量的表征并避免特征坍塌。 机制上,每个视图的自注意力向量表示其与批次内全部增强图像的相似性分布。BAM 通过简单的 self-optimal-transport 计算,得到这些分布的全局平衡、熵正则化版本,再最小化相应的分布匹配损失。摘要将其与使用负样本对、外部记忆库或非对称编码网络的既有策略作了机制层面的区分,但具体损失形式、约束及训练配置尚未验证。 作者报告,在半监督与迁移学习基准上,BAM 取得了可与领先方法竞争的表现,并开展了消融实验;摘要未给出数据集、划分、指标或具体数值,不能据此判断优势幅度。作者称已提供实现与预训练模型,实验协议、消融及统计信息尚未验证。 平台推测(待验证):假设 EEG 增强视图能够保留任务相关信息,BAM 的批内关系分布匹配可能为自监督 EEG 表征提供一种训练目标。可复用部分是分布匹配与平衡计算,编码器、增强方式及批次构造则需适配 EEG。其依赖同批样本间相似关系及平衡约束;低信噪比、跨被试差异、通道配置变化或小数据条件可能使相似性主要反映噪声和被试身份,而非任务信息。一个可证伪的小实验是在固定 EEG 编码器、增强和数据划分下,对照 BAM 目标与直接特征匹配目标,分别评估被试内和跨被试任务表现,并检查表征坍塌及批次组成敏感性。已有 EEG 相关工作尚未检索确认。

阅读价值

BAM 将跨增强视图的特征匹配转为批内相似性分布匹配,并用全局平衡与熵正则化约束缓解表征坍塌,值得核对其最优传输目标及对批次组成的敏感性;其 EEG 适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net