跳到正文
OpenReview · State space models· Xiong Peng; Bo Han; Fengfei Yu; Feng Liu; Tongliang Liu; Mingyuan Zhou·· 2024-09-26精选AI 评分70

基于单步扩散模型的生成式模型反演攻击

Single-Step Diffusion Model-Based Generative Model Inversion Attacks

AI 导读

基于摘要分析。本文研究图像领域的生成式模型反演攻击:攻击者借助生成先验,重建与私有训练数据相似的合成样本。核心贡献是将既有攻击中的 GAN 生成器替换为由预训练扩散模型蒸馏得到的单步生成器,并将攻击分析扩展到大型多模态模型 CLIP。 机制上,既有 GAN 方法利用从公开辅助数据中学习的图像先验约束反演搜索空间;本文则通过单步扩散生成器,将搜索限制在其生成流形上,意在改善 GAN 反演优化不稳定及重建保真度受限的问题。摘要未说明蒸馏方法、反演损失、攻击者对目标模型的访问权限,以及扩散模型预训练数据与目标私有数据的关系,这些条件尚未验证。 作者报告,在其开展的实验中,单步扩散模型攻击优于 GAN 对照,传统评估指标与重建图像视觉保真度均有提升,并揭示了 CLIP 的隐私风险。但摘要未提供数据集、数据划分、具体指标、数值、对照配置或统计信息,因而尚不能判断优势幅度与适用边界。重建样本与训练数据相似,也不能仅凭摘要等同于逐样本恢复或确认训练成员身份。 本文的主要对象是图像生成先验与模型隐私,并非 EEG/BCI 解码或状态空间模型。材料未提供神经信号实验,也未建立图像生成流形与 EEG 数据结构的具体对应关系,因此不据此推断 BCI 效果或提出直接迁移方案。复现需进一步核对预训练生成器、蒸馏实现、目标模型、攻击协议及评价方式;实验协议、消融及统计信息尚未验证。

阅读价值

值得阅读的具体原因是以预训练扩散模型蒸馏出的单步生成器替换 GAN 先验,研究模型反演的优化与重建质量,并检验 CLIP 的隐私泄漏风险;性能优势目前仅有摘要中的作者报告,尚未核对完整实验。

来源:OpenReview · State space models · openreview.net