跳到正文
OpenReview · State space models· Decheng Liu; Xijun Wang; Chunlei Peng; Nannan Wang; Ruimin Hu; Xinbo Gao·· 2024-01-01精选AI 评分74

Adv-Diffusion:基于潜在扩散模型的不可感知对抗性人脸身份攻击

Adv-Diffusion: Imperceptible Adversarial Face Identity Attack via Latent Diffusion Model

AI 导读

基于摘要分析。该研究针对人脸识别对抗样本迁移性不足、容易被检测的问题,提出 Adv-Diffusion,在潜在空间而非原始像素空间生成身份相关对抗扰动,并利用潜在扩散模型的图像修补能力生成逼真的对抗人脸图像。 机制方面,作者提出身份敏感的条件扩散生成模型,以生成周边区域的语义扰动,并设计基于自适应强度的对抗扰动算法,以兼顾攻击迁移性与隐蔽性。摘要未给出身份条件的具体构造、扰动区域定义、优化目标或扩散推理流程,这些细节尚未验证。“无需额外生成模型训练”是作者对该框架的描述,不能扩展理解为无需攻击优化或额外计算。 结果方面,作者报告在公开 FFHQ 与 CelebA-HQ 数据集开展定性及定量实验,相较其所比较的先进方法取得更优表现,且无需额外训练生成模型。摘要未提供攻击成功率、迁移性或可感知性的具体数值;目标人脸识别模型、攻击者访问权限、数据划分、对照基线、检测协议、消融及统计信息尚未验证,因此尚不能判断优势幅度和适用边界。 摘要提供了代码仓库地址,但代码可用性、依赖、预训练权重及复现成本尚未核验。论文主要研究对象是人脸识别系统的对抗攻击,所给材料没有建立其与 EEG/BCI 的具体机制对应关系,不宜将视觉潜在空间中的有效性视为神经信号领域的证据;相关 EEG 工作尚未检索确认。

阅读价值

值得关注其在潜在空间结合身份条件扩散与自适应扰动强度、兼顾人脸攻击迁移性和隐蔽性的机制,但具体优势与评估协议仍需全文核验,不能据此推断 EEG/BCI 适用性。

来源:OpenReview · State space models · openreview.net