跳到正文
OpenReview · State space models· Lucas Anquetil; Jordan Frecon; Yuan Liu; Stephane Canu; Gilles Gasso·· 2023-09-22精选AI 评分73

LIMANS:对抗噪声空间的线性模型

LIMANS: Linear Model of the Adversarial Noise Space

AI 导读

基于摘要分析。该研究面向深度神经网络(DNN)分类器的对抗攻击,试图调和样本特定攻击的有效性与通用攻击的跨样本适用性。LIMANS 将样本特定对抗扰动表示为一组通用对抗方向的线性组合,并提出两种基于随机梯度的算法,用于学习这些方向及相关攻击。 核心机制是用共享的对抗方向描述扰动空间,同时通过线性组合构造适配具体样本的扰动。其研究切入点不是状态空间模型,而是对抗噪声空间的建模。摘要将现有问题概括为:样本特定攻击对目标分类器有效,但向其他分类器迁移较困难;通用攻击不依赖具体样本,却通常攻击成功率较低。方向数量、组合系数的求解方式、优化目标、扰动约束及训练所需监督信息尚未验证。 作者报告,在 CIFAR-10 和 ImageNet 上的经验分析表明,LIMANS 能以较高概率生成样本特定且稳健的对抗攻击,有助于理解 DNN 的弱点,并表现出较强的迁移能力。摘要未给出具体指标、数值、数据划分、模型与对照基线,因此这些定性结论不能用于比较攻击强度;“稳健”所对应的评估条件、实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 分类器的易受攻击方向也存在可共享的低维结构,该机制可能用于研究跨样本或跨被试的对抗脆弱性,而非直接提高 BCI 解码性能。可复用的是共享方向与样本特定组合的建模思路;需要改造扰动约束,使其适配 EEG 的通道、时间结构及信号幅值。低信噪比、被试差异、通道配置变化和小数据可能使共享方向不稳定,或使扰动缺乏实际意义。一个可检验的小实验是:在固定 EEG 分类器和明确的跨被试划分下,仅用训练被试学习方向,在相同扰动预算下比较其与样本特定、通用攻击的攻击成功率及向另一分类器的迁移表现,并核对信号失真。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其以通用对抗方向的线性组合构造样本特定扰动的机制及迁移性评估,但摘要不足以确认攻击收益的幅度或其对 EEG 分类器的适用性。

来源:OpenReview · State space models · openreview.net