PowerJEPA：从尾部感知对齐到全局谱结构的下游效用

基于摘要分析。本文研究通用嵌入如何兼顾语义对应关系与下游任务所需的变化信息，提出 PowerJEPA，将尾部感知的幂均值对齐、选择性困难负样本判别与 Sketched Isotropic Gaussian Regularization（SIGReg）结合，联合塑造局部和全局嵌入几何，并分析谱结构与下游效用的关系。 作者报告，在其文本嵌入实验中，直接扩展 LeJEPA 的下游表现有限，经验分析将困难正样本对齐不足识别为关键限制。PowerJEPA 据此引入上述机制，并在文本数据 MS MARCO、NLI 及图像数据 ImageNet 上开展实验；摘要称方法有效，但未提供具体任务划分、对照分数和提升幅度，训练设置、消融及统计信息尚未验证。 全局结构分析方面，作者以有效维度衡量 SIGReg 塑造的表征容量，并对冻结文本表征进行谱干预。作者报告，检索比聚类和重排序对谱截断更敏感，且更大的有效维度并不稳定带来更好的表现。理论分析进一步指出，有效维度相同的谱仍可具有不同的正则化有效自由度，因此作者提出联合有效维度与谱曲率的容量—形状描述。作者报告，使用两类描述量的校准预测器与平均 MTEB 分数的 Spearman 相关系数为 0.97；校准样本、评估划分及独立验证方式尚未验证，该相关性不能直接视为对新模型或新领域预测能力的证明。 平台推测（待验证）：可检验的 EEG 对应点是自监督正样本构造中的困难对齐，以及嵌入谱结构与下游解码效用的关系，而非将文本、图像结果直接视为 BCI 证据。迁移依赖语义一致的 EEG 正样本对及可靠负样本，需要改造信号编码器、增强和配对规则；低信噪比、被试与通道差异可能使困难样本主要反映伪迹或错误配对，小数据也可能使谱诊断不稳定。小规模实验可固定 EEG 编码器与训练预算，在同一跨被试协议下比较基础对齐与尾部感知对齐，并检验谱描述量能否预测未参与校准被试的下游表现。已有 EEG 相关工作尚未检索确认。