跳到正文
OpenReview · State space models· Decheng Liu; Xijun Wang; Chunlei Peng; Nannan Wang; Ruiming Hu; Xinbo Gao·· 2023-01-01精选AI 评分74

Adv-Diffusion:基于潜在扩散模型的不可感知人脸身份对抗攻击

Adv-Diffusion: Imperceptible Adversarial Face Identity Attack via Latent Diffusion Model

AI 导读

基于摘要分析。本文研究人脸识别中的对抗攻击,针对既有对抗人脸生成方法迁移性不足、易被检测的问题,提出 Adv-Diffusion:在潜在空间而非原始像素空间生成身份对抗扰动,利用潜在扩散模型的图像修补能力生成逼真的对抗图像。其主要研究对象是人脸图像与身份识别,并非 EEG 解码或 BCI。 方法包含身份敏感条件扩散生成模型,用于在周边区域生成语义扰动,并结合基于自适应强度的对抗扰动算法,以兼顾攻击迁移性和隐蔽性。摘要未说明条件信息的具体形式、扰动区域的确定方式、损失函数及强度调整规则,这些实现细节尚未验证。 作者报告,在公开 FFHQ 和 CelebA-HQ 数据集的定性与定量实验中,该方法优于所比较的现有先进方法,且无需额外训练生成模型。摘要未提供具体指标、数值、数据划分、目标识别模型、攻击访问权限及检测评估协议,因此尚不能量化其优势,也不能确认不同攻击设置下的适用范围。实验协议、消融及统计信息尚未验证。摘要提供了代码仓库,实际复现所需的预训练模型、配置和计算资源仍需核对。 平台推测(待验证):其可供借鉴的是利用生成模型潜在空间构造结构化扰动的鲁棒性评估思路,而不是人脸攻击结果本身。该机制依赖人脸图像的空间语义结构及潜在扩散模型的图像先验,不能直接迁移到 EEG;若用于 EEG,需改造生成先验、条件信息与扰动约束,并验证是否保留任务相关生理特征。低信噪比、跨被试差异、通道变化和小数据可能使生成扰动偏离真实信号分布。一个可证伪的小实验是假设信号生成先验已具备,在固定 EEG 解码器、同一数据划分和匹配扰动预算下,比较潜在空间扰动与像素空间对应的原始信号扰动之攻击效果及可检测性。相关 EEG 工作尚未检索确认。

阅读价值

值得关注其利用潜在扩散模型图像修补能力生成身份对抗扰动、并兼顾攻击迁移性与隐蔽性的机制,但具体优势及其对 EEG/BCI 的适用性尚未验证。

来源:OpenReview · State space models · openreview.net