跳到正文
OpenReview · EEG· Zihan Liu; Xiao Zhang; Dongrui Wu·· 2019-12-31精选AI 评分75

面向 EEG 脑机接口中 CNN 分类器的通用对抗扰动

Universal Adversarial Perturbations for CNN Classifiers in EEG-Based BCIs

AI 导读

基于摘要分析。本文研究 EEG-based BCIs 中 CNN 分类器对通用对抗扰动(Universal Adversarial Perturbations,UAPs)的脆弱性,提出总损失最小化(total loss minimization,TLM)方法生成扰动。其核心贡献是用不依赖单个样本的扰动攻击 EEG 分类模型,并考察攻击效果及迁移性。 机制上,UAPs 是可叠加到正常输入上的小幅、样本无关扰动,目标是使分类器性能下降。相较于逐样本构造扰动,这种形式允许同一扰动作用于多个输入;但摘要未给出 TLM 的具体损失形式、优化过程、扰动幅度或约束方式,因此不能确定其训练与部署成本。 作者报告,TLM 在三种常用 CNN 分类器上对定向和非定向攻击均有效,并验证了 EEG-based BCI 系统中 UAPs 的迁移性。摘要未说明分类器名称、BCI 任务、数据集、被试数量、数据划分、攻击成功率或分类性能变化;迁移发生于模型、被试、会话还是数据集之间,也尚未验证,不能据此归纳为跨被试或跨数据集攻击结论。 作者称,据其所知,这是首项研究 EEG-based BCIs 中 CNN 分类器 UAPs 的工作,并认为扰动易于构造、可用于实时攻击,提示 BCI 的潜在安全风险。这些属于作者的研究定位与结论;实际实时攻击所需的输入访问权限、信号注入条件及在线验证范围尚未验证。复现时应核对扰动约束、信号预处理、攻击者可获取的信息、迁移协议,以及扰动对 EEG 信号与分类结果的影响;实验协议、消融及统计信息尚未验证。

阅读价值

值得阅读的具体原因是研究将样本无关的通用对抗扰动引入 EEG 分类安全评估,并报告了定向、非定向攻击及扰动迁移性,但攻击约束和实时应用条件仍需全文核对。

来源:OpenReview · EEG · openreview.net