多方表征对齐
Multi-Way Representation Alignment
基于摘要分析。本文研究三个及以上模型的表征对齐,针对现有两两映射随模型数量呈二次增长、且难以提供一致全局参考的问题,提出 Geometry-Corrected Procrustes Alignment(GCPA),将共享空间构建与方向失配校正结合起来。 核心机制是先改造 Generalized Procrustes Analysis(GPA),构建共享的正交参考空间,以保留 model stitching 等任务所需的模型内部几何。作者指出,严格等距对齐对检索并非最优,而 Canonical Correlation Analysis(CCA)等最大化一致性的方法通常更有优势。GCPA 因此先建立基于 GPA 的共享参考空间,再进行事后方向失配校正,尝试兼顾全局参考的一致性与检索需求;校正的具体数学形式、优化过程及计算开销尚未验证。 作者报告,在文中实验设置下,GCPA 持续改善模型间的任意到任意检索,同时保留实用的共享参考空间。摘要未提供模型、数据集、检索指标、数值及对照细节,实验协议、消融及统计信息尚未验证;不能据此判断其跨任务适用范围或实际扩展效率。 平台推测(待验证):若多个 EEG 编码器可对同一批输入产生可对应的表征,该共享空间机制可能用于检验模型间表征一致性,并减少维护两两映射的需求。可复用部分是 GPA 共享空间与后续校正思路;需核对并适配样本对应、表征维度及归一化要求。低信噪比、通道差异和被试差异可能使几何对应关系不稳定,小数据也可能导致校正过拟合。一个可证伪的小实验是在固定 EEG 数据划分下,用至少三个编码器的训练集表征拟合对齐,在独立测试集上比较两两对齐、GPA 与 GCPA 的任意到任意检索表现。已有 EEG 相关工作尚未检索确认,原领域结果不构成 BCI 有效性的证据。
值得关注其对“保持表征内部几何”与“提升检索一致性”两类目标的区分,以及用共享参考空间组织多模型对齐的机制;具体收益与 EEG 迁移价值尚未验证。
来源:OpenReview · Representation learning · openreview.net