跳到正文
OpenReview · State space models· Wenbo Jiang; Hongwei Li; Guowen Xu; Hao Ren; Haomiao Yang; Tianwei Zhang; Shui Yu·· 2025-05-01精选AI 评分71

重新思考后门触发器与对抗扰动的设计:颜色空间视角

Rethinking the Design of Backdoor Triggers and Adversarial Perturbations: A Color Space Perspective

AI 导读

基于摘要分析。本文研究图像 DNN 的后门攻击与对抗攻击,提出将颜色空间偏移用作后门触发器或对抗扰动,而不是沿用像素空间中受 Lp 范数约束的加性修改;核心贡献是从颜色空间角度分析攻击设计及其对防御方法的稳健性。 机制上,作者在黑盒场景下使用 Particle Swarm Optimization(粒子群优化)进行迭代搜索,以寻找最优触发器或扰动。摘要未说明具体颜色空间、偏移参数化方式、搜索目标、查询预算,以及后门攻击中的投毒与训练流程,这些细节尚未验证。后门攻击与对抗攻击分别涉及训练阶段植入触发行为和推理阶段诱导错误,两者的实验条件与效果应分别核对。 作者报告,所提出的颜色空间攻击能够抵抗图像压缩、图像超分辨率等预处理防御以及其他主流防御方法;作者还设计并评估了针对颜色空间攻击的自适应防御策略。摘要没有提供数据集、模型、数据划分、对照基线、攻击成功率或防御后性能数值,因此无法量化其优势,也不能据此认定其普遍优于加性攻击。实验协议、消融及统计信息尚未验证。 本文主要对象是图像模型安全,并非 State space models 或 EEG/BCI 方法。颜色空间偏移依赖图像的颜色表示,摘要未提供其与神经信号结构之间的具体对应关系,因此不将该结果改写为 BCI 算法创新,也不据此提出 EEG 迁移实验。复现前需核对攻击约束与可感知性、黑盒查询成本、防御参数及自适应防御的评估条件;代码与实现可用性尚未验证。

阅读价值

值得阅读之处在于以颜色空间偏移替代像素空间加性扰动,并同时考察攻击对预处理防御的稳健性及自适应防御,但具体效果与评估协议尚待全文核对。

来源:OpenReview · State space models · openreview.net