基于强化学习的黑盒模型反演攻击

基于摘要分析。本文研究如何仅通过访问目标机器学习模型，重建其训练数据中的私有信息，主要对象是图像数据的黑盒模型反演攻击。作者提出以强化学习搜索生成模型的潜空间，用目标模型对生成图像的置信度分数构造奖励，引导智能体寻找可用于重建私有数据的潜向量。 核心机制是将潜空间搜索表述为 Markov Decision Process（MDP），再通过强化学习求解。其研究背景是利用 GAN 从公开数据中提取先验的模型反演方法：白盒方法可访问更多模型信息，而现有黑盒方法在查询次数约束及攻击效果上存在局限。本文的黑盒设定仍依赖目标模型返回置信度分数，不能直接等同于仅返回类别标签的访问条件；具体状态、动作、奖励形式、训练过程及公开数据要求尚未验证。 作者报告，在多种数据集和模型上的实验取得了当时最先进的攻击表现，并成功恢复目标模型中的私有信息。摘要未提供数据集名称、评价指标、数值、对照方法或查询预算，因此尚不能核对优势幅度，也不能确认是否在预设查询次数内完成攻击。实验协议、消融及统计信息尚未验证。 该工作的直接价值在于分析模型输出置信度可能暴露的训练数据隐私风险，而非提出 EEG 解码或 BCI 算法。其对 EEG/BCI 的适用性尚未验证，相关领域已有模型反演工作也尚未检索确认。