跳到正文
OpenReview · EEG· Xue Jiang; Lubin Meng; Siyang Li; Dongrui Wu·· 2023-12-31精选AI 评分76

主动投毒:针对基于迁移学习的脑机接口的高效后门攻击

Active poisoning: efficient backdoor attacks on transfer learning-based brain-computer interfaces

AI 导读

基于摘要分析。本文研究基于 EEG 的 BCI 在利用迁移学习减少校准需求时,是否会因使用被投毒的源域数据而引入后门,并提出多种主动投毒方法,通过选择更有利于植入后门的源域样本,提高攻击成功率与效率。 其核心威胁机制是:攻击者在源域数据中嵌入特定触发模式,再让这些数据参与迁移学习;预期受影响模型对正常样本仍保持良好表现,却将带有触发模式的测试样本误判为预先指定的类别。本文的方法重点在于投毒样本的主动选择,而非仅讨论是否加入触发模式。摘要未给出具体选择准则、触发模式构造、标签处理方式或攻击者所需权限,这些细节尚未验证。 作者报告,在四个 EEG 数据集和三种深度学习模型上的实验支持所提方法的有效性。摘要未提供数据集与模型名称、具体任务、被试内或跨被试等迁移协议、投毒比例、对照基线,以及攻击成功率、正常样本性能和效率的具体数值,因此尚不能量化其收益或判断不同设置下的适用范围。实验协议、消融及统计信息尚未验证。 阅读全文时,需重点核对源域数据受控范围、主动选择相较其他选择策略的收益,以及攻击成功与正常任务性能之间的权衡。作者将其定位为据其所知首项针对 EEG BCI 迁移学习模型的后门攻击研究;该优先性表述尚未经独立检索确认,摘要结果也不能直接等同于实际部署系统已被攻破。

阅读价值

值得关注其通过主动选择源域投毒样本研究 EEG 迁移学习后门风险的思路,但攻击效果、效率收益及实际威胁边界仍需结合全文协议核对。

来源:OpenReview · EEG · openreview.net