对比学习的随机近似

基于摘要分析。该研究面向视觉自监督表征学习，关注对比学习中正负样本对定义的任意性，以及正负对比项权衡僵化所带来的大批量训练依赖和负样本计算浪费。作者将对比学习重写为基于 I-divergence 的矩阵近似问题，提出可按样本对分解的目标，以支持使用较少负样本的随机近似训练。 机制上，I-divergence 是非归一化形式的 Kullback–Leibler divergence；目标的样本对可分解性，使作者能够借鉴 neighbor embeddings 中的随机近似算法。此外，作者将缩放因子的作用推广到归一化之外，使其能够自适应地强调学习信号更强的正样本对。具体矩阵构造、缩放因子更新方式、正负样本对定义及损失公式尚未验证，不能据摘要认定其消除了样本对设计的任意性。 作者报告，在 CIFAR、ImageNet 等视觉表征学习基准上，该方法相较其他对比学习方法取得明显改善，尤其是在小批量和仅使用一个负样本对的设置下。摘要未提供具体数据集版本、评估协议、对照方法、性能数值或计算开销；实验协议、消融及统计信息尚未验证，实际复现仍需核对完整训练与评估设置。 平台推测（待验证）：若其收益确实来自目标分解与正负项权衡，而非视觉增强或特定训练规模，该机制可能适合计算资源受限的 EEG 自监督预训练。可复用候选是目标函数与随机采样机制，需改造的是 EEG 编码器、增强及正负样本对构造。低信噪比、被试与通道差异、小数据下的假负样本都可能使视觉结果失效。一个可证伪的小实验是：固定 EEG 编码器、增强、数据划分和训练预算，仅替换对比目标，在小批量下比较少负样本设置的下游表现及计算开销，并隔离被试以检验跨被试泛化。已有 EEG 相关工作尚未检索确认。