通过频率空间下缩放从后门投毒数据集中获得干净语言模型

基于摘要分析。本文研究语言模型在后门投毒数据上训练时，如何抑制后门映射的学习，并提出 Multi-Scale Low-Rank Adaptation（MuScleLoRA），将频率空间的多尺度径向缩放、低秩适配与参数更新时的梯度对齐结合，用于减轻后门学习。 机制方面，作者报告，Fourier 分析显示，投毒数据中的后门映射相比干净映射更偏向低频，并具有更快的收敛速度。MuScleLoRA 据此通过频率空间下缩放，促使模型优先学习相对高频的干净映射。这里的“频率”描述的是论文所分析的语言模型映射，不能直接等同于 EEG 的时间频率或生理节律；频率空间的具体构造、缩放作用位置、梯度对齐目标及所需监督信息均尚未验证。 结果方面，作者报告，在多个数据集及多种后门攻击的评估中，平均攻击成功率降至 15% 以下，并可用于 BERT、RoBERTa 和 Llama2 等骨干语言模型。该数值对应摘要所述的多数据集、多攻击评估，并非单一攻击或单一数据集结果；数据集名称、攻击配置、投毒比例、对照基线、干净任务性能、消融及统计信息尚未验证。摘要称代码公开于 Anonymous，但当前材料未提供可核验的代码地址。 平台推测（待验证）：若 EEG 解码模型中的后门映射也呈现区别于正常任务映射的频谱偏好与收敛速度，这一机制可能为抗投毒训练提供假设。低秩适配和梯度对齐可作为候选复用模块，但需要重新定义 EEG 模型映射的频率表征，并核对对标签、干净参考数据及训练规模的依赖。直接抑制低频可能损伤真实神经信号，在低信噪比、跨被试、通道变化和小数据条件下也可能无法区分后门与任务特征。一个可证伪的小实验是在固定 EEG 数据划分与投毒条件下，先检验后门和正常任务映射是否存在所述频谱差异，再比较普通微调与改造版 MuScleLoRA 的攻击成功率及干净任务 Accuracy；若频谱差异不成立，迁移假设即不获支持。已有 EEG 相关工作尚未检索确认。