对比学习与特征空间策略:增强后门攻击的双重方法
Contrastive Learning and Feature Space Tactics: A Dual Approach to Strengthen Backdoor Attacks
基于摘要分析。本文研究预训练语言模型中的隐蔽文本后门攻击,提出多任务攻击框架 CLaFS,通过监督式对比学习和特征空间隔离辅助任务增强后门触发效果。研究对象是文本模型安全,而非 EEG 解码或 BCI 算法。 原问题是:以语法或文本风格作为触发特征的攻击虽然隐蔽,但作者认为其攻击效果及抵抗微调防御的能力仍有限。CLaFS 中,监督式对比学习用于增强辅助任务从投毒样本中学习的能力,再通过参数共享影响目标模型;特征空间隔离任务则将投毒数据与其他类型数据的表示分离,以提高模型对后门触发特征的敏感性。摘要未给出具体损失形式、数据构造方式或参数共享范围。 作者另提出 Zero Poison Attack,旨在不污染目标任务训练数据的条件下,间接实现后门植入。这一表述不等于整个攻击过程完全不使用投毒数据,其辅助数据与训练流程尚未验证。作者报告,所提方法提升了隐蔽文本后门攻击表现,并在多种特殊攻击场景中表现出泛化性与稳健性;摘要未提供数据集、模型、攻击成功率、正常任务性能或防御对照的具体结果,因而暂不能判断收益幅度及适用边界。 复现核对重点包括攻击者可控制的数据与训练环节、触发方式、辅助任务配置、目标任务数据的使用边界,以及微调防御协议。实验协议、消融及统计信息尚未验证。摘要未提供通向 EEG/BCI 的具体机制对应,不据此推断神经信号模型中的攻击有效性。
值得从预训练语言模型安全角度阅读:作者将监督式对比学习与特征空间隔离用于强化隐蔽文本后门,并提出不污染目标任务训练数据的间接植入设定,但具体攻击收益与抗微调能力仍需全文核对。
来源:OpenReview · State space models · openreview.net