跳到正文

算法、任务与模态

Contrastive Learning 最新动态

Contrastive Learning 研究索引；按可核对的标签归档，不以热度评价质量。

709 条精选近 30 天 61 条共收录 993 条

更新

精选归档 · 第 35 页

1月1日周六第 681–700 条
  1. OpenReview · Representation learning73

    面向半监督骨架动作识别的 X 不变对比增强与表征学习

    基于摘要分析。本文研究标注不足条件下的半监督骨架动作识别，提出 X-invariant Contrastive Augmentation and Representation learning（X-CAR），在单阶段对比学习过程中联合学习数据增强与表征，以获取对旋转、剪切和缩放变换的不变特征；其中 X 指这三类变换。 作者认为，先随机增强骨架序列、再进行对比表征学习的方式，可能存在增强与表征学习不一致的问题。X-CAR 的 Adaptive-combination Augmentation（AA）机制通过可学习控制因子，自适应地组合旋转、剪切与缩放，控制因子也参与整体对比学习。作者还提出 Pull-Push Contrastive Loss（PPCL），放宽正负样本的预定义，将增强骨架拉近原始骨架，并推离其他骨架，以处理模糊样本的分配问题；具体损失公式与样本判定规则尚未验证。 作者报告，在 NTU RGB+D 和 North-Western UCLA 数据集的半监督评估中，X-CAR 的准确率优于所比较的竞争方法。摘要未提供具体数值、标注比例、数据划分或基线配置，因此不能据此判断提升幅度及不同协议下的可比性；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：可迁移的假设是，联合优化增强与表征可能缓解 EEG 小样本学习中增强策略与任务信息不匹配的问题，而非骨架几何变换可直接用于 EEG。原方法依赖骨架序列及其几何变换结构；迁移时需重新定义符合 EEG 生理与采集约束的增强、控制范围及样本配对规则。低信噪比、跨被试差异和通道布局变化可能使可学习增强放大噪声，或破坏类别相关信息。可在固定 EEG 数据划分、标注比例和编码器的条件下，对照随机增强与可学习增强，检验收益是否稳定。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其可学习增强与表征联合优化机制，以及 PPCL 对模糊正负样本分配的处理；这些机制对 EEG 的价值尚未验证。

  2. OpenReview · Representation learning72

    基于孪生网络的多尺度自监督异构图表示学习

    基于摘要分析。本文研究自监督异构图表示学习，提出 Siamese Network based Multi-scale bootstrapping contrastive learning approach for Heterogeneous graphs（SNMH），旨在同时提取局部与全局结构信息，并缓解依赖大量负样本的对比学习方法所带来的计算与存储开销。原论文的主要对象是异构图节点表示，而非 EEG 或 BCI。 机制上，SNMH 通过双模式视图生成，分别构建基于元路径模式和一跳关系类型模式的视图；随后结合跨模式与跨视图的自举式对比目标，提高不同模式、不同视图间节点表示的相似性，得到用于下游任务的节点表示。摘要未给出具体损失公式、孪生网络更新机制或负样本使用细节，不能据此断言其完全不使用负样本。 作者报告，在若干公开数据集的实验中，SNMH 在较低时间与空间复杂度的前提下优于所比较的先进方法；但摘要未列出数据集名称、任务、划分、指标、基线及复杂度测量条件，因此优势幅度与适用边界尚未验证。作者提供了代码与数据的公开地址，具体运行依赖、实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其潜在可迁移点是对不同关系结构进行双模式建模，而非直接替换 EEG 编码器。假设 EEG 数据能构建具有明确节点类型、关系类型和元路径语义的异构图，可尝试复用视图生成与跨模式自举目标，但需重新定义信号特征、图关系及下游监督。低信噪比、跨被试差异、通道配置变化与小数据可能使图关系不稳定或使视图一致性约束保留伪相关。一个可证伪的小实验是在固定编码器和 Cross-subject 划分下，对照单模式与双模式自举目标，同时测量下游指标、运行时间和峰值显存，以检验增益是否来自关系模式互补。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其双模式视图与自举式对比目标能否兼顾异构图局部、全局信息及计算开销；作者报告的性能与效率优势仍需结合全文实验协议验证。

  3. OpenReview · State space models73

    改进图像风格迁移的潜在空间

    基于摘要分析。本文研究图像风格迁移中预训练编码器的特征统计与人类感知风格不一致、内容细节保留不足的问题，提出风格与内容两类对比训练方案，以获得更适合风格迁移任务的编码器。 核心机制：既有方法通常匹配预训练 VGG 提取的内容图像与风格图像的深层特征统计。作者指出，这一潜在空间有时会使不同风格图像之间的距离小于相同风格图像之间的距离，从而使优化目标偏离期望的视觉效果；编码特征中的内容细节不足也可能造成内容流失。这里的内容流失指图像内容未被充分保留，并非训练与测试之间的数据泄漏。 方法贡献：风格对比损失使风格化结果接近具有相同视觉风格的图像，并远离内容图像；内容对比损失用于促使编码器保留更多可用细节。改进重点是风格迁移所依赖的特征表示，而非仅调整既有特征空间中的统计匹配目标。摘要未披露对比样本构造、损失具体形式、编码器更新范围及训练流程。 作者报告，将该训练方案加入部分既有风格迁移方法后，能够改善风格化结果，但摘要未提供数据集、评估协议、对照方法或量化指标，因此尚不能判断收益大小及其适用边界。实验协议、消融及统计信息尚未验证。本文的直接研究对象是艺术图像风格迁移，不构成 EEG 或 BCI 有效性的证据。

    阅读价值：值得关注其对风格迁移目标与编码器潜在空间不匹配问题的分析，以及通过风格、内容两类对比训练改进编码器的思路；具体收益与适用范围仍需全文实验核对。

  4. OpenReview · Representation learning70

    ActiveMatch：端到端半监督主动表征学习

    基于摘要分析。ActiveMatch 针对标注不足时半监督学习（SSL）可能产生模糊、区分度不足的表征这一问题，将 SSL、对比学习与主动学习结合，在训练过程中选择样本交由人工标注，以提升有限标注条件下的分类表征质量。原研究对象是通用分类表征学习，摘要报告的评估数据集为 CIFAR-10，并非 EEG 或 BCI。 方法先以少量已标注数据为起点，进行无监督对比学习预热，再结合 SSL 与监督式对比学习，并在训练期间主动选择最具代表性的未标注样本进行标注。其方法动机是减少对预训练特征的依赖，使主动选样与表征训练共同推进；具体选样准则、损失形式及各训练阶段的衔接方式尚未验证。 作者报告，在 CIFAR-10 上，与使用相同标注数量的 MixMatch、FixMatch 相比，ActiveMatch 在收集 100 个标注时达到 89.24% Accuracy，在收集 200 个标注时达到 92.20% Accuracy，并据此声称达到当时最先进表现。摘要未提供两项基线的对应分数，无法量化相对增益；初始标注与后续收集标注的计数关系、数据划分、选样轮次、重复实验、消融及统计信息尚未验证。 平台推测（待验证）：该方法依赖未标注样本池、人工标注反馈及适合对比学习的数据增强，可能对应 EEG 中标注预算有限、表征区分度不足的问题。可考虑复用主动选样与训练联合迭代的流程，但需改造 EEG 编码器、增强策略及样本相似性定义。低信噪比可能使选样偏向伪迹，被试或通道差异也可能使表征主要编码非任务因素，小数据则可能放大初始标注偏差。一个可检验的小实验是在固定被试内划分和相同总标注预算下，比较主动选样与随机选样，并控制编码器及 SSL 流程一致，检验分类收益与跨随机种子的稳定性。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其训练中主动选样与对比学习的耦合方式，以及相同标注预算下相对 MixMatch、FixMatch 的收益；摘要给出了 CIFAR-10 结果，但对 EEG 小样本标注的价值尚未验证。

  5. OpenReview · State space models73

    面向多场景个性化推荐的场景自适应与自监督模型

    基于摘要分析。该研究面向用户与物品部分重叠、但分布存在差异的多场景个性化推荐，提出 Scenario-Adaptive and Self-Supervised（SASS）模型，旨在细粒度控制场景间信息迁移、利用更广泛的样本，并区分物品在不同场景下的表示。 核心机制是 Multi-Layer Scenario Adaptive Transfer（ML-SAT）模块：通过场景自适应门控单元，从全场景信息中选择并融合适合单个场景的迁移信息。训练分为预训练与微调两个阶段，预训练采用场景监督的对比学习任务，样本来自有标签和无标签数据空间；摘要未说明具体标签定义、正负样本构造及损失形式。模型在用户侧与物品侧采用对称设计，以获得场景相关的差异化表示。 作者报告，SASS 在公开与工业推荐数据集上优于所比较的方法，并在在线 A/B 测试中使 Average Watching Time Per User 提升超过 8.0%。摘要未提供数据集名称、离线指标、具体对照基线，以及在线测试规模、周期和统计不确定性，因此该收益仅能按所述推荐场景理解；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：可迁移假设是，场景自适应门控能够为 EEG 跨被试或跨会话建模选择共享信息、抑制不适用的迁移。但原方法依赖推荐中的用户—物品交互结构、场景标识及跨场景重叠，不能直接套用到 EEG。可考虑复用门控迁移与分阶段训练思想，需重设 EEG 编码器、场景定义和对比样本关系；低信噪比、通道差异与小样本可能使门控学习到被试身份而非任务信息。一个可证伪的小实验是在固定编码器和训练数据的跨会话协议下，对比无门控共享模型与场景门控模型，并保持目标会话标签使用规则一致，检验是否获得稳定收益。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对 SASS 如何通过场景自适应门控与场景监督对比预训练控制跨场景信息迁移，但其推荐系统收益不能直接视为 EEG 跨域建模的有效性证据。

  6. OpenReview · Representation learning71

    利用改进的实例级对比学习与深度聚类进行自监督视频表征学习

    基于摘要分析。本文研究自监督视频表征学习，针对常规实例级对比学习（Instance-CL）未能充分处理不同视频之间时序相似性的问题，提出两阶段方法 Improved Instance-CL with Deep Clustering（ICDC），以逐步学习类内更紧凑的时序表征。 第一阶段引入一致性保持采样策略，构造正负样本对；作者称其相比传统采样更关注运动动态，使表征更侧重时序信息。第二阶段以 Instance-CL 提取的时序表征作为初始化，迭代执行 k-means 聚类，并用聚类产生的伪标签训练编码器，从而进一步利用跨视频相似性。摘要未披露采样约束、具体损失、聚类数选择及伪标签更新细节。 作者报告，在 action recognition 和 video retrieval 两项下游任务中，ICDC 相较已有自监督方法获得明显改进。摘要未提供数据集、数据划分、对照方法名称或量化指标，因此尚不能判断增益幅度及各阶段的独立贡献；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其可迁移假设是，EEG 实例级对比学习也可能将具有相同任务相关动态的不同片段分离，聚类伪标签或可补充跨片段结构。可复用的是对比预训练与迭代聚类流程；视频运动动态采样则需改造为适合 EEG 时间结构的增强与配对规则。该思路依赖可重复的时序结构和足以形成稳定聚类的数据，低信噪比、被试差异、通道配置及小数据均可能使聚类主要反映伪迹或个体特征。一个可证伪的小实验是在固定 Cross-subject 划分和编码器条件下，对照常规 Instance-CL、改造采样及加入聚类的版本，仅用训练集拟合聚类，检查下游表现与聚类的被试依赖性是否同步变化。上述 EEG 效果并非本文已验证结果，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对 ICDC 如何通过一致性保持采样与迭代聚类缓解视频实例级对比学习对跨视频时序相似性利用不足的问题，但其性能增益及对 EEG 的适用性尚未验证。

  7. OpenReview · Representation learning72

    用于多视图表征学习的聚类引导对比融合方法

    基于摘要分析。该研究针对通用多视图表征学习中的两个问题：如何从大量无标签数据中学习抵抗噪声与视图缺失的表征，以及如何兼顾不同视图的一致性与互补性。作者提出 CLustering-guided cOntrastiVE fusioN（CLOVEN），将深度融合、聚类引导和非对称对比策略整合为统一方法；原研究对象并非 EEG 或 BCI。 机制上，深度融合网络将视图特有表征汇聚为视图共有表征，以提取高层语义；聚类任务用于引导融合网络，避免平凡解；非对称对比策略则对齐共有表征与各视图特有表征，以协调一致性与互补性。摘要未给出具体网络结构、聚类目标、对比损失及训练流程，尚不能核对这些模块如何共同避免信息丢失或表征退化。 作者报告，在五个数据集的聚类与分类评估中，CLOVEN 优于 11 种多视图学习对照方法，并在视图不完整情境下表现出更好的抗噪能力；可视化分析显示其能够保留视图特有表征的内在结构，同时提高共有表征的紧凑性。摘要未列出数据集名称、划分、指标及具体数值，实验协议、消融及统计信息尚未验证。源码在材料中仅被表述为即将公开，当前可用性尚未验证。 平台推测（待验证）：若将同一 EEG 片段的不同通道组或频带定义为配对视图，该机制可能用于研究局部缺失下的表征融合。该假设依赖可对应的多视图数据及足够的无标签样本；融合与对比框架可作为候选模块，但视图编码器、聚类设置和缺失视图处理流程需适配。低信噪比、跨被试差异及小数据可能使聚类受伪迹或被试身份主导，过强对齐也可能削弱任务相关的互补信息。可在固定的跨被试 EEG 划分下，比较完整方法与移除聚类引导或非对称对比的版本，并施加一致的通道组缺失条件，检验分类性能与鲁棒性变化。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对 CLOVEN 如何用聚类引导融合并通过非对称对比协调视图一致性与互补性；作者报告的缺失视图鲁棒性具有方法参考价值，但其对 EEG 的适用性尚未验证。

  8. OpenReview · State space models74

    在低维空间中学习对比嵌入

    基于摘要分析。本文研究通用对比学习中的表征空间问题：高维嵌入虽有利于实例区分，却可能使实例分布过于稀疏，难以捕捉实例之间的潜在相似性。作者提出 contrastive learning with low-dimensional reconstruction（CLLR），通过带正则化的投影层降低嵌入维度，在保留实例区分目标的同时学习低维对比嵌入。 核心机制是在投影层引入稀疏／低秩正则化，自适应重构低维投影空间。其方法重点不只是降低维度，而是约束投影空间，使实例区分与潜在相似性结构能够兼容。摘要未给出正则项的具体形式、两类约束如何组合、训练流程、正负样本构造或推理时的使用方式，相关细节尚未验证。 作者报告，CLLR 在理论上具有更紧的误差界，并在多个领域的实验中表现出优势；但摘要未说明误差界对应的假设和比较对象，也未提供数据集、划分协议、基线或指标数值。实验协议、消融及统计信息尚未验证，因而不能据此判断收益幅度或跨领域稳定性。 平台推测（待验证）：若 EEG 对比学习中的高维表征确实存在相似性结构难以保留的问题，CLLR 的正则化投影层可能是可复用模块；该假设不等于已证实的 BCI 效果。迁移需核对其对样本规模、正负样本构造及潜在低维结构的依赖，并针对 EEG 的通道配置、增强策略与被试差异调整输入编码和训练协议。低信噪比、小数据或跨被试差异可能使投影保留被试特征而非任务信息，过强的低维约束也可能压缩有效判别信息。可在固定 EEG 数据划分、编码器及训练预算下，对照普通投影、无正则低维投影与 CLLR 投影，分别检验被试内和跨被试任务表现，并评估投影维度与正则强度的影响。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对 CLLR 如何通过稀疏／低秩正则化兼顾实例区分与低维相似性结构，以及其更紧误差界的适用条件；其 EEG 迁移价值尚未验证。

  9. OpenReview · Representation learning73

    面向组织病理全切片图像分析的病灶感知对比表征学习

    基于摘要分析。该研究针对组织病理全切片图像（WSI）局部表征学习中人工标注成本高、实例级对比学习容易发生类别碰撞的问题，提出 Lesion-Aware Contrastive Learning（LACL），通过病灶队列选择负样本，并以队列精炼策略净化所存表征。 核心机制：常规实例级对比学习将每个样本视为独立类别，可能把语义同类样本作为负样本。LACL 基于 memory bank 构建病灶队列，存储不同 WSI 类别的表征，使模型在训练中选择性地定义负样本对；队列精炼进一步处理队列中的表征。摘要未说明类别信息来自人工标签、伪标签还是其他机制，也未给出精炼准则、损失形式和队列更新方式，这些是理解其监督依赖与复现条件的关键。 结果与证据边界：作者报告，LACL 在多个数据集的组织病理图像表征学习及不同 WSI 分类基准上优于所比较的方法。摘要未提供数据集名称、划分、指标、具体数值或对照配置，不能据此量化优势。实验协议、消融及统计信息尚未验证。摘要提供了代码地址，但实现及运行条件尚未核验。 平台推测（待验证）：可迁移的机制是利用队列筛选减少语义同类样本被错误排斥，而非将病灶定义直接用于 EEG。假设 EEG 对比学习同样受到类别碰撞影响，可复用 memory bank 与队列筛选思路，但需改造信号编码器、增强方式和队列类别依据。低信噪比、小数据及跨被试、跨通道差异可能使队列表征偏向被试身份，或使错误类别归属持续累积。一个可证伪的小实验是在固定数据划分、编码器、增强和监督预算下，比较普通实例级对比学习、队列筛选及加入精炼的版本，检查下游任务指标与同类负样本比例是否同步改善。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对的是 LACL 如何通过病灶队列及队列精炼减少组织病理图像对比学习中的类别碰撞，尤其是队列类别信息的来源与负样本筛选规则；其 EEG/BCI 适用性尚未验证。

  10. OpenReview · Representation learning73

    对比式句子表示学习的各向同性与学习动态研究

    基于摘要分析。本文研究对比学习为何能够改善句子表示学习（SRL），主要对象是句子级 NLP 语义表示，而非 EEG 或 BCI。作者从各向同性、上下文化和学习动态三个角度分析表示空间的变化，旨在为后续句子表示学习方法的设计提供依据。 作者报告，对比学习使表示空间更具各向同性，并提高句内相似性，即同一句子中的 token 在语义空间中趋向相近位置。作者还将一种现象形式化为“spurious contextualization”（伪上下文化），并报告该现象在具有语义意义的 token 上减弱、在功能性 token 上增强；其具体定义与测量方式需查阅全文确认。训练过程中，嵌入空间整体朝原点移动，更多区域变得更明确，但摘要未说明相应几何量的定义及其与下游效果的定量关系。 作者通过改变训练温度、批量大小和池化方法考察上述现象的学习动态。摘要未提供具体模型、对比目标形式、数据集、评估划分或数值结果，实验协议、消融及统计信息尚未验证。因此，不能据此将各向同性增强等同于任务性能提升，也不能判断这些现象是否适用于其他模态。 平台推测（待验证）：其可迁移价值更可能是表示诊断视角，而非直接复用句子语义结论。假设 EEG 对比学习中的表示集中或局部特征过度趋同会影响判别能力，可复用各向同性与训练轨迹分析；但需根据 EEG 的时间片段或通道结构重新定义局部相似性，不能直接对应语义 token 与功能性 token。低信噪比、跨被试差异及小数据条件可能使几何变化主要反映噪声或被试身份。一个小规模可证伪实验是在固定 Cross-subject 划分、编码器及增强策略下，仅改变对比学习温度，同时记录各向同性、片段相似性与下游 Accuracy，检验几何改善是否伴随判别能力改善。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读之处在于作者将对比式句子表示学习的效果与表示各向同性、句内 token 聚合及训练动态联系起来，为检查对比学习表示空间提供了具体分析视角，但其 EEG 适用性尚未验证。

  11. OpenReview · Representation learning78

    结合语义分组的自监督视觉表示学习

    基于摘要分析。本文研究如何从无标注、以场景为中心的图像中学习视觉表示，提出 SlotCon，将数据驱动的语义分组与对比学习联合优化，以获得对象／组级表示。原论文的研究对象是视觉图像，不是 EEG 或 BCI。 机制上，SlotCon 将像素分配给一组可学习原型，再通过对特征的注意力池化形成随样本变化的语义槽（semantic slots）；基于这些槽构建对比学习目标，提升特征的可区分性，并反过来促进语义一致的像素聚合。相较于依赖手工设计的对象性先验或专门代理任务的方案，其主要思路是让语义分组与表示学习相互促进。具体损失形式、视图构造和训练配置尚未验证。 作者报告，该方法能够将复杂场景分解为语义组，并改善目标检测、实例分割和语义分割等下游任务。摘要未提供数据集、划分、对照基线及具体指标，不能据此判断增益幅度或跨协议优势。实验协议、消融及统计信息尚未验证。摘要提供了代码仓库，但实现完整性及复现条件尚未核对。 平台推测（待验证）：若 EEG 的时频片段或通道特征存在可重复的潜在分组结构，可假设借鉴“可学习原型—样本自适应槽—对比学习”的机制，探索无标注 EEG 表示学习。可复用的是原型分配与槽级目标；需改造的是图像像素特征接口、时空结构编码和正样本构造。视觉语义分组的有效性不等于 EEG 生理成分可被同样分离，低信噪比、通道变化、被试差异和小数据可能使槽捕获伪迹或个体身份。一个可检验的小实验是在固定的跨被试划分下，对同一 EEG 编码器比较加入与不加入槽分组的对比学习，保持训练数据和增强一致，检查下游表现及槽稳定性。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得关注的是 SlotCon 将数据驱动的语义分组与槽级对比学习耦合，为无标注复杂场景的对象／组级表示学习提供了具体机制，但其向 EEG 迁移的有效性尚未验证。

  12. OpenReview · Representation learning74

    混合式对比学习：时间序列的自监督表征学习

    基于摘要分析。本文研究时间序列标注不足条件下的表征学习，提出受标签平滑启发的无监督对比学习框架，以两个样本的混合构造训练数据，并将混合系数作为软目标，为时间序列表征及迁移学习提供训练信号。主要研究对象是通用时间序列与临床时间序列，而非已明确验证的 EEG 或 BCI 任务。 核心机制是把样本混合增强与对比学习目标结合：新样本由两个数据样本及混合系数生成，模型的任务是预测该混合系数，并在损失函数中使用相应软目标。摘要未给出混合操作的具体形式、对比损失公式、编码器结构及训练和推理流程，这些细节尚未验证。 作者报告，该框架在单变量和多变量时间序列实验中优于其他表征学习方法，并展示了临床时间序列迁移学习的收益。摘要未提供数据集名称、样本规模、划分方式、基线名称或指标数值，因此无法判断优势的幅度及适用范围；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 样本具有可对齐的时间轴和通道结构，混合系数软监督可能为低标注条件下的预训练提供可复用机制。但这一假设依赖样本混合仍保留可学习的信号结构；跨被试幅值差异、通道不一致及低信噪比可能使模型主要利用混合伪迹而非任务相关特征。可复用部分是混合增强与软目标训练思路，需改造部分包括 EEG 预处理、通道对齐和编码器。一个可检验的小实验是在固定跨被试划分与相同标注预算下，对比该目标和常规对比学习预训练，并检查混合强度变化对下游表现的影响。已有 EEG 相关工作尚未检索确认，以上不属于论文已验证结果。复现前需取得全文，核对损失定义、混合采样方式、数据划分与实现可用性。

    阅读价值：值得核对其以混合系数作为软目标的对比学习机制及迁移评估协议，但摘要所述通用与临床时间序列结果尚不能证明其对 EEG 表征学习有效。

12月31日周五
  1. OpenReview · Representation learning79

    探究负样本在对比表征学习中的作用

    基于摘要分析。本文研究噪声对比学习中负样本数量如何影响表征及下游表现，核心贡献是提出碰撞—覆盖权衡，并通过 NLP 与视觉任务考察这一理论解释的适用性，而非提出 EEG 或 BCI 专用方法。 机制与理论：该学习范式利用语义相似性构造正样本，并通过区分正样本与随机负样本学习表征。作者从理论上指出，负样本数量存在碰撞—覆盖权衡，提示最优负样本数量应随数据中的潜在概念数量变化。摘要未给出概念的形式化定义、理论成立条件、具体损失及采样设定，相关细节尚未验证。 实验与边界：作者报告，在所考察的 NLP 任务中，实验结果总体符合理论；视觉实验则不够明确，部分情况下表现甚至对负样本数量不敏感。因此，摘要不支持将该权衡视为所有任务中的统一经验规律。具体数据集、下游指标、负样本数量范围、批大小控制、实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若将该机制用于 EEG 自监督学习，一个可检验的假设是，负样本数量的收益取决于其覆盖的状态差异及语义相似样本被当作负样本的程度。可复用的是负样本数量与采样策略的分析思路，需改造的是 EEG 正样本构造及潜在概念定义；低信噪比、跨被试差异、通道配置差异和小数据可能使采样主要反映非任务因素。小规模实验可固定 EEG 编码器、增强、数据划分与下游评估协议，在尽量控制批大小影响的条件下改变负样本数量，检验收益是否随任务类别覆盖而变化。此处仅为迁移假设，已有 EEG 相关工作尚未检索确认。

    阅读价值：该研究以碰撞—覆盖权衡解释负样本数量的作用，并呈现 NLP 与视觉实验对理论支持程度的差异，可用于审视对比学习中“负样本越多越好”的适用条件，但其对 EEG 的解释力尚未验证。

1月1日周五
  1. OpenReview · EEG76

    用于自动睡眠分期的自监督 EEG 表征学习

    基于摘要分析。本文研究如何利用大量无标签 EEG 学习可用于自动睡眠分期的向量表征，提出自监督模型 Contrast with the World Representation（ContraWR），目标是在减少标注依赖的同时获得具有预测能力且对噪声稳健的特征。原论文的主要研究对象是睡眠分期，而非 BCI 控制任务。 机制上，ContraWR 利用数据集的全局统计信息，帮助区分与不同睡眠阶段相关的信号。摘要未展开全局统计的计算与更新方式、对比目标、数据增强、编码器及下游训练流程，因此不能据此确定具体损失形式或网络结构。作者希望学习到的向量特征能够替代原始信号用于睡眠分期，并在少标签和噪声场景下优于监督学习。 作者报告，在涵盖居家与实验室记录场景的三个真实 EEG 数据集上，ContraWR 的睡眠分期表现优于四种近期自监督方法；在训练标注不足 2% 的示例条件下，相对监督学习取得原文所述“4% accuracy improvement”。摘要未明确该增益是相对百分比还是百分点，也未给出对应数据集、基线分数及划分方式，故不能进一步换算或跨协议比较。作者还报告二维投影呈现有信息的特征结构，并认为模型具有噪声鲁棒性，但可视化本身不能替代定量验证。 复现时需核对数据集名称、被试与记录划分、标注比例的抽样单位、预训练数据范围、全局统计是否仅由协议允许的数据计算，以及噪声类型、强度和评价指标。实验协议、消融及统计信息尚未验证。作者提出可扩展到其他无监督生理信号学习任务，但摘要未提供其他任务的验证结果。

    阅读价值：值得阅读的具体原因是 ContraWR 利用数据集全局统计学习无标签 EEG 表征，并报告了少标签睡眠分期收益；其统计构建方式、评估划分及噪声鲁棒性证据仍需全文核对。

  2. OpenReview · State space models77

    CLOCS：跨空间、时间与患者的心脏信号对比学习

    基于摘要分析。该研究面向大量未标注的心脏生理信号，提出自监督对比学习方法族 CLOCS，通过鼓励跨空间、时间与患者的表示相似，学习可用于下游任务的表征。研究对象是心脏信号，而非 EEG 或 BCI。 核心机制是利用生理数据中的空间、时间及患者关系组织对比学习。摘要未说明这些关系如何形成正负样本，也未披露空间维度的具体定义、编码器结构、损失形式或采样策略，因此不能据此还原实现。作者还指出，训练过程自然产生患者特异性表示，可用于量化患者相似性；该相似性如何计算及验证尚未确认。 作者报告，在下游任务的线性评估与微调中，CLOCS 持续优于 BYOL 和 SimCLR；作者还报告，仅使用 25% 的有标签训练数据时仍具有较强泛化表现。摘要未给出具体任务、数据集、指标、数值，以及被试内、跨被试或跨数据集划分，因而这些结论只能保留在摘要所述评估背景下，不能量化优势或推定跨患者泛化。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 数据具有可追踪的通道、时间片段与被试标识，这种关系驱动的对比学习可能有助于缓解标签稀缺。可复用的是关系采样与自监督预训练思路；需改造的是 EEG 通道对应、时间片段配对，以及跨被试正样本的语义约束。低信噪比、跨被试差异和通道不一致可能使相似性约束抹去任务相关差异，小数据也可能导致表示主要编码被试身份而非任务信息。 一个可检验的小实验是假设在固定 EEG 数据划分、编码器与标签预算下，比较仅时间关系与加入通道或被试关系的预训练，再以线性评估和微调检查任务性能；测试被试不得参与预训练，并需核对关系配对是否依赖标签。该实验仅是迁移假设，不代表 CLOCS 已有 EEG 效果；已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的是 CLOCS 如何利用心脏信号的空间、时间与患者关系构建自监督表示，以及患者特异性表示的用途；其对 EEG 的适用性尚未验证。

  3. OpenReview · Representation learning72

    通过对比聚类分配进行图表示学习

    基于摘要分析。该研究面向无监督图表示学习，提出 GRCCA，通过对比不同增强图中的聚类分配，尝试同时利用局部节点信息、全局结构与簇级关联，缓解局部—全局对比中全局信息过于粗略，以及节点级对比中全局信息利用不足的问题。 核心机制：先采用不同图增强策略生成两张增强图，再通过聚类算法分别获得聚类分配与原型；随后最小化交叉熵损失，使两张增强图中的同一节点相互预测其聚类分配。其对齐对象不是单纯的节点嵌入，而是节点所属的簇级结构。作者认为，这有助于发现图拓扑之外较难显式刻画的节点关联。具体增强操作、编码器、聚类算法、原型更新方式及损失实现尚未验证。 结果与证据边界：作者报告，在三种不同下游任务中与当时的先进模型比较，GRCCA 在多数任务中具有较强竞争力。摘要未给出任务名称、数据集、划分、指标或数值，因此不能据此判断收益幅度或宣称达到 SOTA；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：迁移假设是，若 EEG 可构造成具有稳定节点对应关系的图，簇级一致性可能为噪声较大的节点表示提供额外结构约束。可复用的是聚类分配对齐机制，需改造的是 EEG 图构建、增强策略及节点对应规则；原方法依赖图结构和跨增强的节点对应，摘要未说明所需数据规模，也未验证簇是否对应神经生理结构。低信噪比、跨被试差异、通道配置变化和小数据可能造成聚类不稳定，或使模型对齐非任务相关因素。一个可检验的小实验是在固定 EEG 数据划分、图构建、编码器与增强的条件下，对比节点级对比学习与聚类分配对比，检查下游任务指标及不同随机种子下的稳定性。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对 GRCCA 如何通过跨增强图的聚类分配预测协调局部与全局信息，但摘要仅报告定性竞争力，其相对节点级对比的收益及 EEG 迁移价值尚未验证。

  4. OpenReview · EEG76

    用于自动睡眠分期的自监督 EEG 表征学习

    基于摘要分析。本研究针对自动睡眠分期依赖精细 EEG 标注、海量无标注信号难以有效利用的问题，提出自监督表征学习方法 Contrast with the World Representation（ContraWR），目标是将原始 EEG 转换为可用于睡眠分期的向量特征，并改善少标签及噪声条件下的预测表现。 核心机制：摘要说明 ContraWR 利用数据集的全局统计来区分与不同睡眠阶段相关的信号，但未提供全局统计的计算方式、对比目标、损失函数、信号分段、数据增强或模型结构。这些细节尚未验证，也不能据此判断训练过程中如何使用睡眠阶段标签。 评估与结果：作者在三个真实 EEG 数据集上进行评估，覆盖居家与实验室记录场景，并报告 ContraWR 在睡眠分期任务中优于四种近期自监督方法。作者还报告，在标注数据占比低于 2% 的条件下，相较监督学习获得“4% accuracy improvement”；摘要未明确该数值是相对提升还是提高 4 个百分点，具体数据集、划分及监督基线也尚未验证。作者展示了二维投影中的表征结构，并认为方法具有噪声鲁棒性；投影结构本身不能替代下游预测或鲁棒性评估。 证据边界与复现条件：数据集名称、通道配置、被试数量、Within-subject 或 Cross-subject 协议、标注子集抽样方法、噪声类型及强度、消融与统计信息尚未验证。复现应优先核对全局统计的估计范围、预训练与下游评估的数据划分，以及自监督和监督基线是否采用一致的标注预算。 研究主要对象是 EEG 睡眠分期，并非 BCI 控制任务。作者提出向其他无监督生理信号学习任务推广，并将任务特定数据增强及自监督与监督方法结合列为未来方向；摘要未提供其他任务上的验证结果。

    阅读价值：值得阅读的是 ContraWR 利用数据集全局统计学习无标注 EEG 表征的机制，以及作者报告的少标签睡眠分期优势；具体对比协议与噪声鲁棒性证据尚需全文核对。

  5. OpenReview · Representation learning72

    通过互信息最大化集成聚合子图的图表示学习

    基于摘要分析。本文研究通用图数据的图级表征学习，提出借助一组子图增强图表示的自监督方法，以自回归方式生成子图，再用子图指导 Graph Neural Networks 学习原图表征；材料未涉及 EEG 或 BCI 实验。 方法以互信息最大化为目标，通过可学习的子图生成过程捕获图结构，并设计 attribute-conv、layer-conv 和 subgraph-conv 三类信息聚合器，从不同方面汇集原图信息。此外，作者提出 Head-Tail 对比构造，为对比学习提供丰富负样本。摘要未给出互信息目标的具体形式、子图生成约束、聚合器结构及负样本采样规则，尚不能判断各组件的独立贡献或计算开销。 作者报告，在无监督设置下，该方法在若干基准上取得新的最先进结果，并在半监督任务中与已有半监督方法比较。摘要未列出数据集、划分、指标、具体数值及基线配置，因此无法量化优势；实验协议、消融及统计信息尚未验证。作者称这些组件可推广到任意 Graph Neural Networks，这一适用范围仍需结合正文核对。 平台推测（待验证）：若将 EEG 通道或脑区作为节点、连接关系作为边，子图聚合可能用于学习局部连接模式与整体图结构之间的关系，但原方法依赖可用于对比学习的图样本及有意义的子图结构，所需数据规模尚不明确。可考虑复用聚合与对比学习模块，子图生成和图构建则需适配通道位置、连接估计及跨被试差异。低信噪比可能使子图捕获伪连接，小数据和通道变化也可能削弱对比学习效果。一个可证伪的小实验是在固定 EEG 图构建、骨干和跨被试划分下，比较不使用子图、随机子图与可学习子图，检验收益是否来自可学习子图机制。已有相关 EEG 工作尚未检索确认。

    阅读价值：值得核对其可学习子图生成、多视角信息聚合与 Head-Tail 负样本构造是否分别改善图级表征；作者报告的基准优势及其对 EEG 图建模的适用性尚需验证。

  6. OpenReview · Representation learning72

    UniMoCo：无监督、半监督与全监督视觉表征学习

    基于摘要分析。该研究面向视觉表征学习，提出 Unified Momentum Contrast（UniMoCo），将 MoCo 扩展为可利用任意比例标注与未标注训练数据的统一框架，核心贡献是基于标签队列构造多个正样本对，并以 Unified Contrastive（UniCon）损失统一处理数量可变的正负样本。 机制上，相较于 MoCo 的单个正样本对，UniMoCo 通过比较 query 标签与标签队列，动态维护多个正样本对；UniCon 则从成对优化视角组织对比学习目标。摘要未给出损失公式，也未说明未标注样本如何参与正负样本判定、队列如何更新，以及混合标注比例下的具体训练流程，这些细节尚未验证。 作者报告，在采用不同比例 ImageNet 标签预训练多个 UniMoCo 模型、并在多种下游任务评估的设置下，该方法能适用于无监督、半监督和监督视觉表征学习。作者还主张 UniCon 在理论与实践上优于监督对比损失，但摘要未提供具体标签比例、下游任务、数值指标或对照配置；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其可迁移机制是利用有限类别标签，为对比学习增加同类正样本，可能对应 EEG 小样本标注利用不足的问题。可复用部分是标签队列和多正样本对比目标；需改造视觉编码器与数据增强，并处理 EEG 的被试、会话和通道差异。低信噪比、类别内部异质性及小数据条件可能使同类正样本关系不稳定，队列也可能保留被试特异特征。一个可证伪的小实验是在固定 EEG 数据划分和标注预算下，采用相同编码器与增强，比较 MoCo、监督对比学习和 UniMoCo 的跨被试解码表现，并检查标签比例变化是否带来稳定收益。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对的是标签队列与 UniCon 损失如何在同一框架中利用不同比例的标注数据，但其相对监督对比学习的优势及向 EEG 的适用性仍需进一步验证。

  7. OpenReview · Representation learning70

    面向骨架动作表征的时空增强对比学习与前置任务学习

    基于摘要分析。本文研究基于骨架的动作识别中的无监督表征学习，提出 contrastive-pretext spatial-temporal network（CP-STN），旨在从大量无标签骨架序列中提取具有判别性的时空特征，而非直接研究 EEG 或 BCI。 方法将对比学习与前置任务学习结合，使用非对称的空间和时间增强，并以图卷积为骨干，利用骨架数据天然具有的时空图结构。摘要未说明增强操作、前置任务定义、损失形式及两类学习目标的组合方式，这些是理解方法与复现时需要核对的关键内容。 作者报告，在两个基准的无监督和半监督设置下，CP-STN 提升了既有骨架动作表征学习网络的性能，并达到当时最优 Accuracy。摘要未提供基准名称、具体数值、数据划分或对照配置，因此该结论目前只能按作者报告保留；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其可供 EEG 研究考察的机制是，在有图结构的多变量时间序列上联合利用空间与时间增强进行自监督表征学习。迁移假设依赖于能够构造合理的 EEG 通道图，以及增强操作不破坏任务相关信息。可考察联合学习框架，但通道图、增强规则和前置任务均需针对 EEG 改造；骨架关节连接不能直接视为电极间生理连接。低信噪比、跨被试差异、通道布局变化和小数据条件可能使增强失效或放大伪相关。一个可检验的小实验是在固定 EEG 数据划分、相同骨干与标注预算下，对比仅对比学习、仅前置任务学习及二者联合，并检验非对称增强是否稳定改善任务指标。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对 CP-STN 如何通过非对称空间与时间增强联合对比学习和前置任务学习，但其增强设计及对 EEG 表征学习的适用性尚未验证。