跳到正文
OpenReview · EEG· Manshan Guo; Bhavin Choksi; Sari Saba-Sadiya; Alessandro T. Gifford; Martina G. Vilas; Radoslaw Martin Cichy; Gemma Roig·· 2024-01-01精选AI 评分75

利用人类 EEG 联合训练物体识别模型带来有限但一致的对抗鲁棒性增益

Limited but consistent gains in adversarial robustness by co-training object recognition models with human EEG

AI 导读

基于摘要分析。研究针对人工神经网络相较人类视觉更易受到对抗攻击的问题,探索将真实世界图像诱发的人类 EEG 响应作为辅助监督,能否改善物体识别模型的对抗鲁棒性。主要研究对象是视觉识别模型,而非 BCI 解码器;其贡献在于检验非侵入式人类 EEG 对视觉模型训练的作用。 方法上,作者以 ResNet50 为骨干,联合训练图像分类与 EEG 预测任务,以此将模型表征与人类脑响应对齐,并评估 EEG 预测表现及对抗攻击下的鲁棒性。摘要未提供两项任务的损失形式、权重、EEG 目标构造或训练细节,不能据此确定具体对齐机制。 作者报告,网络的 EEG 预测表现与对抗鲁棒性增益显著相关,EEG 预测表现往往在刺激呈现后约 100 ms 附近最高。作者报告,鲁棒性改善幅度有限,但在不同随机初始化下表现一致,且在架构变体中保持稳定;逐通道分析显示,顶枕区域电极的贡献最强。这些结果支持进一步研究脑响应辅助监督,但相关性本身不能确定鲁棒性改善的因果机制。 摘要未给出数据集名称、被试数、训练与测试划分、预测指标、攻击类型与强度、对照基线或增益数值;实验协议、消融及统计信息尚未验证。复现时需核对图像与 EEG 的配对方式、时间窗与预处理、辅助任务设置,以及是否在一致的分类性能和攻击预算下比较模型。材料不支持将该结果直接解释为 EEG 解码或 BCI 性能提升。

阅读价值

值得阅读的是作者报告的人类 EEG 预测表现与视觉模型对抗鲁棒性增益之间的关联,以及跨随机初始化和架构变体的一致性,但增益幅度有限,具体评估协议尚需全文核对。

来源:OpenReview · EEG · openreview.net