利用深层特征空间中共同特征的对抗扰动去噪
Adversarial perturbation denoising utilizing common characteristics in deep feature space
基于摘要分析。本文研究图像分类 DNNs 面对多种及不断演变的对抗攻击时,如何通过输入预处理去除对抗扰动。核心贡献是在深层特征空间提取扰动的共同特征,据此构造 common adversarial examples(CAEs)训练去噪器,并结合像素级与深层特征空间的混合损失,兼顾扰动去除和图像保真。 机制上,作者认为对抗扰动在输入空间难以察觉,而在深层特征空间更加明显,因此将共性提取放在后者进行。CAEs 用于训练去噪器,试图缓解针对多种扰动逐一防御的困难。摘要未说明共同特征的提取算法、CAEs 的具体生成过程、特征提取模型,以及混合损失的数学形式与权重。 作者报告,在其图像分类实验中,该方法能够去除多种对抗扰动,相较既有先进方法提升对抗鲁棒性,并可作为预处理模块用于多种分类模型。摘要未提供数据集、攻击类型与预算、训练和测试攻击是否分离、评价指标或具体数值;实验协议、消融及统计信息尚未验证。复现时需核对对照方法、干净图像性能、未见攻击评估,以及攻击是否针对完整防御流程进行适应性优化。 平台推测(待验证):可探索的 EEG 对应瓶颈是分类模型对对抗扰动的脆弱性,而非一般生理噪声去除。该假设依赖可访问的 EEG 特征提取模型、明确的攻击样本生成协议,以及干净信号与受扰信号之间可用的训练对应关系;可借鉴深层特征共性提取思路,但去噪器和像素级约束需改为适合时序、多通道及任务相关信号的形式。低信噪比、跨被试差异和小数据可能使所谓共性混入真实任务特征,导致去噪损害判别信息。一个可证伪的小实验是在固定 EEG 划分下,以部分攻击训练、另一类攻击测试,对照普通去噪训练,同时检查干净数据与受攻击数据的分类表现。相关 EEG 工作尚未检索确认,图像领域结果不能视为 BCI 有效性证据。
值得核对的是利用深层特征中的扰动共性构造去噪训练样本的机制,以及其对未见攻击和不同分类模型的泛化是否成立;摘要尚不足以验证这些能力。
来源:OpenReview · State space models · openreview.net