利用样本空间几何增强矩阵正交化

基于摘要分析。本文研究神经网络训练中的正交化优化：Muon 等方法处理聚合参数更新的行、列方向，但未显式控制不同训练样本共享的更新方向。作者提出引入样本空间几何，并通过 Selective Orthogonalization 对较强奇异方向进行归一化，同时保留趋近于零的弱方向尺度。 核心机制是将逐样本更新组织成矩阵，利用样本空间 Gram 矩阵识别共享更新方向，从而对向量、矩阵及异构参数块进行谱整形。作者提出一种平滑变换，并证明在固定正过渡尺度下，奇异值趋近于零时，其相对放大倍数趋近于一；同时推导了等价的参数侧谱表述。这一性质针对的是弱方向被过度放大的问题，不等同于证明训练精度必然提高。 作者还提出在迭代间交替执行 Selective 与 Muon 更新的混合优化器，将样本空间几何与参数矩阵几何纳入同一训练过程。作者报告，独立 Selective 的受控实验在五种参数结构上验证了弱方向尺度保持行为；图像分类实验在所考察的数据集、架构及批大小下显著降低了弱方向放大，并取得有竞争力的 Accuracy。摘要未给出具体数据集名称、数值、划分或基线细节，也未明确报告混合优化器的实验效果；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其可迁移假设是，EEG 解码训练中的逐样本更新可能包含可利用的共享结构，而弱方向尺度保持可能降低噪声更新被放大的风险。该方法依赖逐样本更新及其 Gram 矩阵，并不直接利用 EEG 时序或通道结构。可复用部分是谱变换与更新组合规则；需评估逐样本梯度计算成本、批内样本组成及与现有优化器的兼容性。低信噪比、跨被试差异和小批量可能使共享方向估计不稳定，较强更新方向也可能对应伪迹或被试特征。一个可证伪的小实验是在固定 EEG 模型与跨被试划分下，对照 Muon、独立 Selective 和交替更新方案，同时记录 Accuracy、弱方向放大及计算开销。已有 EEG 相关工作尚未检索确认，原领域结果不构成 BCI 有效性的证据。