跳到正文
OpenReview · State space models·· 2026-09-13精选AI 评分77

当后门遇上选择性状态空间:Mamba 语言模型中的机制与攻击

When Backdoors Meet Selective State Spaces: Mechanisms and Attacks in Mamba Language Models

AI 导读

基于摘要分析。本文研究选择性状态空间语言模型 Mamba 中的文本后门如何激活,重点分析触发信息如何写入递归状态、在后续更新中保留并影响分类器读出。作者据此提出 Trigger-Aware State-Write Boosting(TASWB),旨在增强触发器相关的状态写入及目标类别间隔。 实验覆盖四个数据集,在两种模型规模下比较 Mamba 与 Pythia,并考察 BadNL、SynBkd、StyBkd 和 BGMAttack。作者报告,在所测设置中,架构与规模共同影响后门脆弱性:小规模 Mamba 的干净样本 Accuracy 更高,而较大模型中的非词汇触发器更可靠。摘要未提供数据集名称、具体模型规模、划分方式及量化结果,不能据此比较不同攻击的收益或断言某一架构普遍更安全。 机制方面,作者报告 Mamba 后门与分类读出对齐,并部分集中于分类器接口;输入依赖的时间步长是识别触发计算与攻击成功的强诊断信号。组件替换分析则将 mixer、gate、scan-output 和 state-write 路径识别为因果驱动环节。诊断相关性与组件干预证据应分开理解,具体替换方式及其对正常任务性能的影响尚未验证。TASWB 的具体实现、训练目标和攻击增益也需全文确认。 本文的主要对象是 NLP 文本后门,而非 EEG 或 BCI。摘要未提供神经信号任务上的安全评估,不能将其结论直接外推为 Mamba 在 BCI 中的已知漏洞。实验协议、消融及统计信息尚未验证,已有 EEG 相关工作尚未检索确认。

阅读价值

值得阅读之处在于将 Mamba 后门激活分解为状态写入、持续保留与分类读出,并通过组件替换分析区分诊断信号与潜在因果路径;相关结论及新攻击的增益仍需核对全文实验。

来源:OpenReview · State space models · openreview.net