基于 successor representation 的深度强化学习黑盒奖励攻击

基于摘要分析。本文研究无法获取受害智能体神经网络内部信息时，如何通过篡改奖励攻击深度强化学习（DRL）智能体，并降低奖励异常检测发现攻击的可能性。核心方法是预先学习状态的 successor representation（SR），据此选择攻击时机并生成奖励扰动。 机制方面，攻击者预先构建深度神经网络，学习各状态的 SR，并结合 DRL 的探索机制提高攻击效果。摘要将扰动描述为难以察觉，但未给出可察觉性的定义、扰动约束或异常检测评估结果。黑盒条件下攻击者可访问哪些状态、奖励与交互信息，以及预训练 SR 所需的数据和环境访问权限，均尚未验证。 结果方面，作者报告该方法能够使用较少的对抗样本有效攻击智能体；摘要未提供实验环境、受害算法、对照基线、攻击成功率或样本数量，因此无法量化其效果，也不能确认攻击样本减少是否意味着总交互成本下降。实验协议、消融及统计信息尚未验证。 原论文的研究对象是 DRL 奖励攻击，而非 EEG 解码或 BCI。平台推测（待验证）：若某类闭环 BCI 使用强化学习并依赖可被篡改的反馈奖励，该攻击思路可能用于审查反馈链路的鲁棒性；这一关联取决于具体系统的奖励机制与攻击权限，不能视为已验证的 BCI 效果。已有 EEG 相关工作尚未检索确认。