跳到正文
arXiv · 表征与预训练· Bill Psomas; Mohammad Mahdi; Michalis Thomas; Danda Pani Paudel; Giorgos Tolias; Giorgos Kordopatis-Zilos·· 3 天前精选AI 评分79

用于表征学习的全局平均精确率

Global Average Precision for Representation Learning

AI 导读

基于摘要分析。本文研究表征学习中的跨查询相似度可比性:mAP、InfoNCE 和逐查询 AP 替代损失主要比较单个查询对应的正负候选,未直接约束不同查询的相似度能否共用一个决策阈值。作者提出 Global Average Precision(gAP),将所有查询—候选对合并排序后计算单一 AP,并提出其可微替代目标 gSAP。 机制上,gSAP 仅需相似度矩阵和标记正样本对的二值矩阵,作者将其定位为不依赖编码器、模态及监督来源的损失替换方案。它联合考虑批内所有可能的成对比较;作者报告,这使其在逐查询替代目标梯度不足的低温度区间仍可训练。具体平滑形式、梯度性质、计算与显存开销尚未验证。 作者报告,将 gSAP 替换进既有训练方案后,监督度量学习、跨模态对齐和自监督预训练均获得改善。在统一阈值检索中,相同 precision 下,gSAP 检出的正样本对数量最高达到最强 AP 替代目标的四倍;加入数据库中没有正样本的查询时,其性能退化最少。作者还报告迁移、kNN 和零样本分类 accuracy 提升。摘要未提供具体数据集、划分、基线名称及各项数值,因此不能跨协议比较;实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 表征用于相似度检索或统一阈值判定,跨查询校准机制可能对应跨被试相似度尺度不稳定的问题。可复用 gSAP 目标,但需根据任务构造正样本矩阵,并改造批采样以覆盖被试和类别;低信噪比、通道差异及小数据可能使全局排序更受噪声或被试特征支配。一个可证伪的小实验是固定编码器、数据划分与训练预算,对比 InfoNCE 和 gSAP,在独立验证集确定统一阈值后评估 Cross-subject 测试集的固定 precision 下召回及各被试表现。该迁移假设不等于已证实的 BCI 效果,已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对 gSAP 如何通过批内全局排序改善跨查询相似度的一致性,尤其是统一阈值下的检索表现;其对 EEG 跨被试阈值稳定性的价值尚未验证。

来源:arXiv · 表征与预训练 · arxiv.org