参数高效微调方法真的不同吗？

基于摘要分析。该研究比较语言模型与扩散模型中的六种参数高效微调（PEFT）方法，考察参数化差异如何影响任务表现、遗忘及预训练权重几何，并通过谱分量恢复干预探究几何变化的功能后果。核心贡献是将“是否保持预训练几何”与“是否有助于适应和保留原有能力”分开评估。 机制与对照：研究以 orthogonal fine-tuning（OFT）的谱保持设计为出发点。作者报告，所选 LoRA-family 方法也近似保持预训练几何；将其轻微偏移的奇异值谱恢复后，任务表现大体保留，因此对显式几何保持是否必要提出疑问。这不能直接解释为几何约束在所有任务中均无作用。 结果：在摘要所述比较范围内，作者报告 LoRA 在维持有竞争力的任务表现时，最稳定地限制遗忘；DoRA 在多数比较中取得比 LoRA 更高的平均任务得分；PiSSA 则往往付出更大的原有能力保持代价。干预实验进一步表明，不同方法的性能增益可归因于不同谱分量组的修改；相较恢复中间或尾部谱分量，恢复主导谱分量带来的通用文本 NLL 或基础图像漂移平均降幅最大。上述指标不能与任务得分直接互换。 验证与复现：摘要未提供全部六种方法的名称、模型和数据集、训练与划分协议、具体数值或不确定性；实验协议、消融及统计信息尚未验证。摘要给出代码仓库，但其内容与运行条件尚未核验。 平台推测（待验证）：若 EEG 预训练模型存在可评估的原有能力保持需求，可借鉴其谱恢复干预，而非直接照搬语言或图像领域结论。可复用的是 PEFT 对照与谱分量恢复思路，需改造任务头、EEG 输入适配及保持指标；低信噪比、通道差异、被试差异与小数据可能使主导权重谱分量并不对应稳定 EEG 表征。一个可检验的小实验是在固定跨被试划分下比较 LoRA 与 DoRA，并分别恢复主导及尾部谱分量，同时测量目标任务表现和预训练评估集上的能力变化。已有 EEG 相关工作尚未检索确认。