状态空间模型的参数高效微调

基于摘要分析。本文研究 Mamba 等深度状态空间模型（SSMs）的参数高效微调（PEFT），重点比较现有方法的适用性及微调模块的选择，并提出 LoRA with Selective Dimension tuning（SDLoRA），将线性投影矩阵上的 LoRA 与 SSM 模块中部分通道和状态的选择性更新结合。 作者报告，在 SSM 模型上对四种基本 PEFT 方法进行经验评估后，prompt-based 方法（如 prefix-tuning）效果不佳，理论分析也支持这一观察；相比之下，LoRA 仍然有效。针对 LoRA 的应用位置，作者报告，理论与实验均支持仅将 LoRA 应用于线性投影矩阵、而不修改 SSM 模块的配置效果最好，直接以 LoRA 微调 SSM 模块则效果不佳。SDLoRA 并非在 SSM 模块中简单增加 LoRA，而是对其中部分通道和状态进行选择性更新，同时保留投影矩阵上的 LoRA。作者报告，该组合优于标准 LoRA，但摘要未提供具体任务、数据集、指标或增益幅度。 需核对的关键细节包括：四种 PEFT 方法的完整设置、通道与状态的选择规则、可训练参数预算及其匹配方式，以及理论结论的适用条件。实验协议、消融及统计信息尚未验证，不能据此判断其在不同模型规模或任务上的普适性。 平台推测（待验证）：若已有预训练 EEG SSM 编码器，该机制可能用于缓解跨被试适配中训练样本有限、全量微调成本较高的问题。可复用的是投影矩阵 LoRA 和 SSM 维度选择性更新的思路；需改造的是 EEG 输入映射、任务输出头及维度选择策略。其原始论证背景为语言建模中的 SSM，摘要未说明依赖的预训练规模或下游监督条件；低信噪比、通道配置变化和个体差异可能使所选维度不稳定。一个可证伪的小实验是在固定预训练编码器和 Cross-subject 划分下，以匹配的可训练参数预算比较投影矩阵 LoRA 与 SDLoRA，并检查多次运行的稳定性。已有 EEG 相关工作尚未检索确认。