跳到正文
OpenReview · State space models· Ming Sun; Lihua Jing; Zixuan Zhu; Rui Wang·· 2024-01-01精选AI 评分73

MakeupAttack:通过妆容迁移对人脸识别实施特征空间黑盒后门攻击

MakeupAttack: Feature Space Black-box Backdoor Attack on Face Recognition via Makeup Transfer

AI 导读

基于摘要分析。本文研究人脸识别系统中的后门攻击,提出通过妆容迁移构造特征空间触发器的 MakeupAttack,旨在缓解既有触发器明显、简单,以及部分攻击在人脸识别任务中失效的问题。其主要研究对象是人脸图像与识别模型,并非 EEG 或 BCI。 核心机制方面,作者称该方法不同于需要完整访问目标模型的特征空间攻击,仅需模型查询;通过迭代训练学习妆容风格触发器的细微特征,并利用自适应选择增加触发器多样性,使恶意样本的特征分布更加分散,以规避既有防御。摘要未说明妆容迁移的具体实现、迭代优化目标、查询预算,以及攻击者对训练数据和训练流程的控制权限,这些条件尚未验证。 作者报告,在两个常用人脸数据集上、针对多个模型开展实验,方法能够在绕过所测试的先进防御时保持攻击有效性、鲁棒性、自然性与隐蔽性,同时不损害模型性能。但摘要未提供数据集名称、数据划分、模型名称、防御配置、评价指标或具体数值,因此无法量化效果,也不能将其结论扩展为能够绕过所有防御。实验协议、消融及统计信息尚未验证。 复现核验应重点关注黑盒查询条件与训练投毒权限的关系、触发器生成及自适应选择规则,以及攻击效果、正常识别性能和视觉隐蔽性的评估方式。材料未提供妆容迁移与神经信号处理之间的具体机制对应,不据此生成 EEG/BCI 迁移结论或实验建议。

阅读价值

值得阅读其仅依赖模型查询的特征空间后门设定,以及通过妆容触发器多样性规避防御的机制,但攻击权限、效果与防御对照仍需全文核验。

来源:OpenReview · State space models · openreview.net