利用零空间梯度投影的 Teleportation 优化加速方法

该研究针对 Teleportation 优化方法难以扩展到复杂架构、计算开销较高的问题，提出将 Teleportation 目标函数的梯度投影到输入零空间，以在损失不变的等值集内调整参数并加速后续优化。基于摘要分析，未取得论文全文。 Teleportation 的核心思路不是直接降低当前损失，而是在保持损失不变的参数集合中寻找几何性质更有利的位置，再继续执行基于梯度下降的优化。摘要指出，既有方法主要在 Multi-Layer Perceptrons（MLPs）上展示效果；本文以输入零空间投影约束 Teleportation 更新，旨在降低计算成本，并扩展到 CNN 和 Transformer。输入零空间的具体定义、构造方式、Tele­portation 目标函数及其与常规训练步骤的衔接尚未验证。 作者报告在多个基准数据集和优化器上验证了方法有效性及广泛适用性，但摘要未提供数据集名称、基线、指标或加速幅度。因此，目前无法区分收益主要体现为更少优化步数、更短实际训练时间，还是其他优化表现；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若该投影机制能以较低开销用于 EEG 解码网络，可能有助于缓解训练收敛成本，但这属于优化器层面的迁移假设，并非已验证的 BCI 贡献。可复用部分是参数更新中的投影步骤；需核对 EEG 输入张量与网络结构下零空间的定义及计算代价。低信噪比、通道相关性、被试差异和小数据可能使损失等值集内的几何改善难以转化为泛化收益。一个可证伪的小实验是在固定的 Cross-subject EEG 划分、相同网络与优化器下，对比启用和不启用该步骤的训练，计入投影开销，检验达到同一验证损失的实际耗时及测试集 Balanced Accuracy。已有 EEG 相关工作尚未检索确认。