跳到正文
OpenReview · Representation learning·· 29 天前精选AI 评分82

半连续表征学习:用于校准 Matryoshka 嵌入的混合维度对比训练

Semi-Continuous Representation Learning: Mixed-Width Contrastive Training for Calibrated Matryoshka Embeddings

AI 导读

基于摘要分析。本文研究通用嵌入检索中 Matryoshka Representation Learning(MRL)的跨维度相似度校准问题,提出 Semi-Continuous Representation Learning(SCRL),通过共享 softmax 的混合维度对比训练,使不同长度的嵌入前缀获得更一致的相似度分数;原研究对象并非 EEG 或 BCI。 机制上,MRL 将同一嵌入的不同长度前缀视为同一输入的不同粒度表征。作者将其跨维度分数失配归因于各前缀分别使用自身配分函数进行优化。SCRL 随机采样前缀维度,以共享 softmax 的单一对比目标替代分解式损失。作者报告给出了前缀校准的理论证明,但证明假设、采样策略及具体损失公式仍需全文核对。 作者报告,在八个 BEIR 基准的混合维度检索评估中,平均 nDCG@10 提升最高达 8.8 个点;摘要未明确各实验的具体对照与划分。作者还报告跨维度近邻一致性改善,64 维与 768 维嵌入的分数分布重叠率由 71.7% 提升至 84.9%,该重叠率的计算定义及评估设置尚未验证。方法被描述为可直接替代 MRL 训练,也可用于已有 MRL 模型的后训练,或通用嵌入上的 MRL-adaptor 设置。实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 检索系统确需比较不同维度的嵌入前缀,共享归一化目标可能缓解分数不可比的问题;这一假设依赖可嵌套表征与可靠的对比样本关系。可复用的是前缀采样与共享 softmax 目标,需改造的是 EEG 编码器及正负样本构造。低信噪比、跨被试分布差异、通道变化和小数据可能使校准不足以带来检索收益。可在固定 EEG 编码器、训练数据和跨被试划分下,对比 MRL 与 SCRL 的混合维度检索及分数校准表现,以检验该假设;已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其将不同维度前缀纳入共享 softmax 的校准机制,以及混合维度检索收益是否能在明确的训练与评估协议下复现;其对 EEG 表征的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net