ReGRA：用于互补低秩微调的残差梯度适应

基于摘要分析。本文研究参数高效微调中如何更有效地利用固定低秩预算，提出两阶段 Residual-Gradient Adaptation（ReGRA）：利用第一阶段更新未覆盖的任务梯度方向初始化第二阶段适配器，并通过正交约束促进两阶段更新互补。主要研究对象是预训练模型的低秩微调，并非 EEG 或 BCI 专用方法。 作者报告，在 rank-16 LoRA 的诊断实验中，仅保留靠前的奇异分量取得最佳表现，继续加入其他分量反而降低性能；具体任务、分量保留数和指标尚未验证。ReGRA 在第一阶段结束后，用校准集估计任务梯度，去除其在第一阶段更新所诱导的双侧子空间上的投影，再聚合残差梯度方向以初始化第二阶段适配器，同时保持第一阶段更新不变。正交正则项用于鼓励两次更新捕捉互补方向；两次更新均可合并到预训练权重，作者据此称不会增加推理开销。 作者报告，ReGRA 在多个基准上优于相同总秩的替代方案，且可匹配两倍秩的 LoRA，并称消融与进一步分析支持核心设计。摘要未列出基准名称、具体分数、总秩分配、训练预算及校准集构造，实验协议、消融及统计信息尚未验证；训练成本也不能由推理无额外开销推出。摘要提供了代码地址，但实现与复现条件尚未核验。 平台推测（待验证）：若 EEG 预训练模型支持 LoRA 微调，互补子空间机制可能用于检验小秩更新能否更有效地适配下游任务。可复用的是残差梯度初始化与正交约束，需改造的是校准集采样及任务损失；低信噪比、被试差异、通道不一致和小样本可能使残差梯度主要反映噪声。一个可证伪的小实验是在固定 EEG 模型及 Cross-subject 划分下，以仅来自训练被试的校准数据，比较相同总秩、相近训练预算的 LoRA 与 ReGRA，并重复不同随机种子。该假设不代表已有 BCI 收益，相关 EEG 工作尚未检索确认。