使用 Wasserstein 距离的单纯形表示学习实证研究

基于摘要分析。本文研究视觉自监督学习中以树结构上的 1-Wasserstein distance，即 Tree-Wasserstein distance（TWD），替代常用余弦相似度时的优化问题，主要贡献是比较距离与概率模型的组合，并提出基于 Jeffrey divergence 的正则化以稳定训练；研究对象并非 EEG 或 BCI。 TWD 被定义为两个树嵌入向量之间的 L1 距离。作者比较了 total variation 与 ClusterTree 两类 TWD，以及 softmax、ArcFace probability model 和 simplicial embedding 等概率模型。其核心问题不仅是更换距离度量，还包括如何将表示映射为适合该距离的概率表示，以及如何避免训练不稳定。正则项的具体形式、树结构的构建方式及完整训练目标尚未验证。 作者报告，在 STL10、CIFAR10、CIFAR100 和 SVHN 上的实证研究中，简单组合 softmax 与 TWD 的表现明显低于标准 SimCLR，直接组合 TWD 与 SimSiam 则训练失败；性能依赖 TWD 与概率模型的搭配，Jeffrey divergence 正则化有助于训练，合适的组合能够优于基于余弦相似度的表示学习。摘要未提供具体指标、数值及各数据集的对应结果，实验协议、消融及统计信息尚未验证，不能据此判定收益幅度或跨设置稳定性。 平台推测（待验证）：若 EEG 自监督编码器能输出具有合理树状组织的概率表示，可尝试复用 TWD 与该正则化思路，检验不同于余弦相似度的表示约束；但原研究依赖图像数据及概率表示，迁移时需改造 EEG 编码器、增强策略和树结构。低信噪比、跨被试差异、通道配置变化及小样本可能使树结构更多反映噪声而非任务信息。一个可证伪的小实验是在固定 EEG 编码器、增强和跨被试划分下，仅比较余弦目标、TWD 目标及加入正则化的 TWD，核对训练稳定性与同一线性评估协议下的表现。已有 EEG 相关工作尚未检索确认。