跳到正文

算法、任务与模态

隐私与安全 最新动态

隐私与安全 研究索引；按可核对的标签归档，不以热度评价质量。

83 条精选近 30 天 26 条共收录 139 条

更新

精选归档 · 第 5 页

12月31日周二第 81–83 条
  1. OpenReview · EEG74

    基于 EEG 的脑机接口黑盒对抗攻击中的主动学习

    基于摘要分析。该研究针对基于 EEG 的 BCI 深度学习分类器，研究如何降低迁移式黑盒对抗攻击训练替代模型时的目标模型查询成本，提出以查询合成式主动学习提高查询效率的框架。 核心机制是：攻击者通过查询目标模型训练替代模型，使其近似目标模型，再利用替代模型生成对抗样本并迁移攻击目标模型。主动学习用于替代模型训练中的查询合成环节，目标是在有限查询预算下获得更有效的目标模型信息。摘要未说明查询样本的合成方式、选择准则、目标模型返回的信息类型、替代模型训练损失及对抗扰动约束，这些细节尚未验证。 作者报告，在三个 CNN 分类器和三个 EEG 数据集上的实验中，该方法能够在相同查询次数下提高攻击成功率，或以更少查询达到所需攻击表现。摘要未提供数据集名称、任务、被试数量、被试内或跨被试等划分协议、对照方法及具体数值，因此不能判断改进幅度、统计可靠性或不同设置之间的可比性。实验协议、消融及统计信息尚未验证。 这项工作的研究对象是 EEG 分类器的对抗安全性，而非提高正常条件下的 BCI 解码性能。复现时应优先核对攻击者权限与查询预算、替代模型和目标模型之间的关系、扰动大小及其信号约束，并分别评估正常输入分类表现与攻击成功率。作者称这是据其所知首次将主动学习与 EEG BCI 对抗攻击结合的工作，该优先性主张尚未独立检索确认。

    阅读价值：值得阅读的具体原因是，该研究将查询合成式主动学习用于 EEG 黑盒攻击的替代模型训练，直接检验有限查询预算下的攻击效率，但具体效果幅度与威胁模型仍需全文核对。

  2. OpenReview · EEG73

    EEG-based BCI 回归问题的白盒定向攻击

    基于摘要分析。该研究关注 EEG-based BCI 回归模型的对抗脆弱性，提出两种白盒定向攻击方法，旨在通过对原始输入添加小扰动，使回归输出改变预先指定的量。其主要贡献是将定向对抗攻击从分类问题拓展至 BCI 回归问题，并考察攻击样本的跨模型迁移能力。 机制与威胁模型：白盒设置假定攻击者掌握被攻击回归模型的全部信息，攻击目标并非仅使预测出错，而是控制输出变化的幅度。摘要未说明两种方法的具体优化过程、损失函数、扰动度量或约束，因此尚不能判断其差异、计算成本，以及扰动是否符合真实 EEG 采集与处理条件。 结果与证据边界：作者报告，在两个 BCI 回归问题上的实验验证了两种方法的有效性；作者还报告，两种方法生成的对抗样本均具有迁移性，即可利用已知回归模型生成的样本攻击未知回归模型，实现黑盒攻击。摘要未提供具体回归任务、数据集、被试数、数据划分、模型类型或量化指标，不能据此比较攻击效果，也不能将跨模型迁移等同于跨被试、跨会话或跨数据集有效。作者将其称为据其所知首项针对 EEG-based BCI 回归问题的对抗攻击研究，该优先性声明尚未独立核实。 复现与局限：需核对预定输出变化量与实际变化量的关系、扰动预算、攻击成功率的定义，以及不同目标模型和数据划分下的结果；同时需确认攻击施加于何种输入表示、预处理是否影响攻击，以及模型输出受操纵与真实 BCI 系统风险之间的关系。实验协议、消融及统计信息尚未验证，代码可用性亦尚未验证。

    阅读价值：值得阅读的具体原因是其将 EEG-based BCI 的对抗安全问题扩展到回归输出的定向操纵，并报告跨模型迁移攻击，但攻击幅度、扰动约束与实际系统风险仍需核对全文。

  3. OpenReview · EEG75

    基于 EEG 的 BCI 中 CNN 分类器的脆弱性研究

    基于摘要分析。本文研究基于 EEG 的 BCI 中 CNN 分类器对对抗样本的脆弱性，提出无监督快速梯度符号方法（UFGSM），以带有小幅刻意扰动的输入攻击分类模型，并考察对抗样本的迁移性。 技术机制方面，研究将对抗扰动引入 EEG 分类任务，关注深度学习模型在输入被轻微修改后是否受到误导。摘要给出了 UFGSM 的名称，但未说明其无监督目标如何构造、梯度计算依据、扰动约束及生成流程，因此尚不能据此还原具体损失或攻击实现。 作者报告，UFGSM 对所测试的三种常用 BCI CNN 分类器有效，并验证了对抗样本的迁移性；作者据此指出，即使不知道目标模型的架构、参数或训练数据集，也可以实施攻击。摘要未提供分类器名称、EEG 任务、数据集、被试数、数据划分、攻击成功率或分类性能变化，不能量化攻击强度，也不能判断结论在被试内、跨被试或跨会话条件下的适用范围。作者将其称为据其所知首项相关研究，这一优先性主张尚未独立核实。 复现时需核对扰动幅度及其度量、EEG 预处理与攻击施加位置、替代模型与目标模型的关系，以及迁移攻击的知识边界和评估协议。数字信号输入上的攻击效果也不应直接等同于实际采集链路中的可实施攻击。实验协议、消融及统计信息尚未验证；全文与实现条件仍需进一步取得并核查。

    阅读价值：值得阅读的具体原因是作者以 UFGSM 检验 EEG 分类 CNN 的对抗脆弱性，并报告对抗样本的跨模型迁移性，为核查 BCI 解码器的安全评估条件提供了明确切入点。