状态空间模型的参数高效微调
基于摘要分析。本文研究深度状态空间模型(SSMs,如 Mamba)中的参数高效微调(PEFT),比较既有方法的适用性,并分析哪些模块适合微调;在此基础上提出 LoRA with Selective Dimension tuning(SDLoRA),将线性投影矩阵上的 LoRA 与 SSM 模块内的选择性维度更新结合。 作者对四种基础 PEFT 方法进行了经验评估,报告 prompt-based 方法(如 prefix-tuning)在所研究的 SSM 模型与实验条件下不再有效,并提供理论分析支持;相比之下,LoRA 仍然有效。进一步的理论与实验分析表明,在其比较设置中,将 LoRA 应用于线性投影矩阵、而不修改 SSM 模块,效果最佳;作者同时报告,直接用 LoRA 调整 SSM 模块并不有效。这一结论针对具体微调方式,不等于 SSM 内部参数完全不值得更新。 SDLoRA 的机制是在 SSM 模块中选择性更新部分通道和状态,同时对线性投影矩阵应用 LoRA。作者报告该方法优于标准 LoRA,但摘要未给出数据集、任务组成、模型规模、可训练参数预算、指标或提升幅度;维度选择规则、训练配置、实验协议、消融及统计信息尚未验证。复现时需核对各方法的参数预算与训练条件,以及理论结论适用的模型假设。 平台推测(待验证):若 EEG 任务已有可用的预训练 SSM,该方法可能为小数据微调提供候选方案;但原研究针对语言建模背景下的 SSM,不能据此认定其对 EEG 有效。迁移假设是选择性更新状态维度能够适应 EEG 时序差异,同时限制可训练参数规模。可复用部分是投影矩阵上的 LoRA 与选择性维度更新,需改造 EEG 输入表征及任务输出模块;低信噪比、跨被试差异和通道配置变化可能使所选维度失效。可在固定跨被试划分与匹配可训练参数预算的条件下,小规模比较标准 LoRA 与 SDLoRA,并检查多次运行的稳定性。相关 EEG 工作尚未检索确认。
阅读价值:值得阅读其关于 LoRA 在 SSM 内部模块与线性投影矩阵上效果差异的理论和实验分析,为选择参数高效微调的位置提供依据,但具体评估协议与效果幅度尚未验证。