用于表征学习的全局平均精度
Global Average Precision for Representation Learning
基于摘要分析。本文研究检索与表征学习中不同查询的相似度能否直接比较,提出 Global Average Precision(gAP)的可微代理 gSAP,使训练目标同时考虑批次内所有查询—候选配对的全局排序,而非只优化每个查询内部的正负样本排序。 核心机制:mAP、InfoNCE 和逐查询 AP 代理主要衡量同一查询下正样本相对于负样本的排序,不能直接约束跨查询相似度的一致性。gAP 将全部查询—候选对放入同一个列表计算 AP;gSAP 用于近似优化这一目标,输入为相似度矩阵及标记正配对的二值矩阵。作者称其不依赖特定编码器、模态或监督来源,可替换现有训练配方中的损失。作者还报告,联合考虑批次内配对比较,使其在逐查询代理梯度不足的低温度设置下仍可训练;具体代理公式、温度范围与计算开销尚未验证。 结果:作者报告,在监督度量学习、跨模态对齐和自监督预训练中,替换损失带来收益。在统一决策阈值的检索评估中,相同 precision 下,gSAP 检索到的正配对数量最高为最强 AP 代理对照的四倍;加入数据库中没有正样本的查询时,其性能退化最小。作者还报告迁移、kNN 与零样本分类准确率改善。摘要未提供这些结果对应的数据集、划分、具体基线名称及统计信息,不能据此推断平均增益或不同任务间的可比性。 平台推测(待验证):全局相似度约束可能对应 EEG 跨被试表征中“同一阈值在不同被试上含义不一致”的瓶颈,但原论文并未提供 EEG/BCI 验证。可复用的是配对排序损失;需改造正配对定义、批次采样和神经信号编码器。该方法依赖可靠的正配对监督及批次内配对覆盖,低信噪比、通道差异和小样本可能使全局排序更受被试身份或噪声支配。 可检验的小实验:在固定 EEG 编码器、数据划分与批次采样的跨被试任务中,仅比较 InfoNCE 与 gSAP,并用验证集确定统一阈值,核对测试集相同 precision 下的正配对召回量及逐被试差异。相关 EEG 工作尚未检索确认;全文实验协议、消融及统计信息尚未验证。
值得核对 gSAP 将逐查询排序优化改为全局配对排序的机制,以及统一阈值下的收益是否能在控制批次构成后复现;其对 EEG 跨被试相似度校准的价值尚未验证。
来源:OpenReview · Representation learning · openreview.net