利用线性映射实现模型无关的对抗防御
Leveraging linear mapping for model-agnostic adversarial defense
基于摘要分析。研究针对图像 CNN 的对抗表征能否跨模型线性对齐,以及这种对齐能否支持模型无关的对抗防御;核心贡献是将其他模型的对抗嵌入映射到已有防御空间,以评估防御机制的跨模型复用。 机制上,作者从不同模型的常规嵌入可由简单线性映射相互关联这一观察出发,将研究对象扩展到对抗输入的表征。在目标防御空间内,使用对抗与非对抗嵌入训练线性分类器,再用其他模型经映射后的对抗嵌入进行评估。摘要未明确分类器的标签定义、线性映射的拟合目标、配对样本需求及防御空间的构建方式,不能据此补写具体损失或训练流程。 作者报告,在 CIFAR-10 和 ImageNet 上,上述跨模型映射与分类器评估设置的 AUROC 最高可达 0.99。该结果不能直接解释为原图像分类任务的鲁棒 Accuracy,也不能代表所有模型组合或攻击条件均达到该水平。攻击类型与强度、模型组合、数据划分、映射拟合与测试样本是否隔离、对照基线、消融及统计信息尚未验证。 平台推测(待验证):若不同 EEG 解码模型对同一批样本产生可线性对齐的嵌入,该机制或可用于复用对抗检测模块,而非直接解决跨被试域偏移。可复用部分是线性映射与目标空间分类器,需改造的是 EEG 扰动约束、嵌入提取及被试与通道对齐。低信噪比、通道差异和小数据可能使线性对应不稳定。一个可证伪的小实验是固定两种 EEG 解码模型,用独立校准集拟合映射,在隔离测试集上比较直接迁移、线性映射迁移与目标模型单独训练,并分别报告检测 AUROC 和原任务 Accuracy。已有 EEG 相关工作尚未检索确认。
值得核对的是跨 CNN 的对抗表征线性映射能否复用同一防御空间,但摘要中的 AUROC 尚不足以说明原任务分类鲁棒性或 EEG 场景有效性。
来源:OpenReview · State space models · openreview.net