参数空间对称性的 Neural Tangent Kernel 视角

基于摘要分析。本文研究为何不改变模型输出的参数空间对称变换能够改善训练优化，并在 Neural Tangent Kernel（NTK）框架下，通过分析变换对核性质的影响给出理论解释。其主要贡献是建立损失梯度范数优化与 NTK 对齐之间的联系，并证明参数空间对称变换保持 NTK 极限。 核心机制是：参数变换虽然保持网络输出不变，却可能改变参数梯度及其对应的 NTK。作者报告，通过对称变换最大化损失梯度范数，等价于最大化 NTK 与网络之间的对齐程度；摘要未给出该对齐量的具体定义。作者据 NTK 极限下核对齐与优化速率的已知关联，解释这类变换为何能加快训练。摘要还指出，在训练前或训练中仅施加一次变换，往往就能获得收益，但未提供对应实验协议或量化结果。 需要核对的关键内容包括：所覆盖的对称变换类别、等价关系及极限保持结论的数学假设，以及理论如何对应有限宽网络的训练过程。泛化改善是摘要提出的研究动机，但现有材料不足以确认其理论或实验证据范围；实验协议、消融及统计信息尚未验证。 该论文的主要对象是通用神经网络的参数化与优化机制，并非 EEG/BCI 方法。现有摘要不足以建立具体的神经信号任务迁移路径，相关 EEG 工作也尚未检索确认。