使 LoRA 可辨识：面向持续学习的正交对齐

基于摘要分析。本文研究参数高效微调（PEFT）中的持续学习问题，提出 Stiefel Optimization and Aligned Rotation（SOAR），通过约束和对齐单个 LoRA 的参数表示，缓解任务间表示坐标不一致，并避免随任务数量增加而扩展任务专属 LoRA 模块。 核心机制分为两阶段：首先将 LoRA 的 A 矩阵约束在 Stiefel 流形上，使坐标不对齐问题缩减至正交旋转矩阵空间；随后对 B 矩阵采用 Orthogonal Procrustes 对齐，估计最优旋转，并结合逐秩保留合并策略，量化新任务与既有任务表示之间的方向一致性。摘要未提供具体优化目标、合并公式或训练流程，因此不能将标题中的“可辨识”解释为已经证明的严格唯一性。 作者将方法与逐任务扩展 LoRA 分支、跨任务 LoRA 正交损失及门控整合等策略区分，指出这些策略的内存成本随任务数线性增长；同时认为已有单 LoRA 方法存在表示对齐不足。作者报告，在多个模型和基准上，SOAR 获得较强的持续学习表现且不增加额外内存开销，但摘要未列出模型、数据集、任务序列、指标、对照结果或内存计量范围。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 预训练模型以 LoRA 进行跨被试或跨会话顺序适配，参数坐标对齐可能有助于减少合并时由表示旋转差异造成的干扰。可复用模块是流形约束、正交对齐与逐秩合并；需明确 EEG 骨干、监督方式、任务边界及通道对应关系。低信噪比、小样本和被试差异可能使方向一致性估计不稳定，且参数方向一致不保证解码能力保留。一个可检验的小实验是在固定骨干、LoRA 秩和任务顺序的跨被试适配中，对比普通单 LoRA 更新与 SOAR，记录新旧被试的同一解码指标、遗忘程度及内存，并分别移除对齐和逐秩合并检验其作用。已有 EEG 相关工作尚未检索确认。