通过 Tent 激活函数降低开放空间风险以提升对抗鲁棒性
Improved Adversarial Robustness by Reducing Open Space Risk via Tent Activations
基于摘要分析。本文研究图像分类模型对微小对抗扰动的脆弱性,提出用具有有界开放空间风险的 Tent 激活函数提升对抗鲁棒性。作者假设,传统单调激活函数的开放空间风险可被对抗攻击利用,并以 MNIST 和 CIFAR-10 上的白盒攻击评估支持这一思路。 核心机制是改变激活函数的响应特性,以约束开放空间风险,而非仅依靠计算开销较高的 PGD 对抗训练。摘要未提供 Tent 的具体函数形式、参数学习方式、网络替换位置,以及是否结合对抗训练;这些实现与训练条件尚未验证。作者关于攻击利用开放空间风险的解释应视为待核对的机制假设,不能仅凭准确率提升认定因果关系成立。 作者报告,在 MNIST 上,采用 Tent 的分类器面对六种白盒对抗攻击的平均 Accuracy 为 91.8%,较摘要所称当时最先进方法高出超过 15 个百分点;在 CIFAR-10 上,同样针对六种白盒攻击,作者报告其方法的平均 Accuracy 为 73.5%,PGD 对抗训练对照为 41.8%。摘要未列出攻击名称、扰动预算、攻击步数、数据划分及平均方式,因此这些数值仅适用于文中所述评估背景,不能外推为普遍鲁棒性优势。实验协议、消融及统计信息尚未验证;复现还需核对攻击是否充分适配 Tent,以及梯度有效性。 平台推测(待验证):该方法依赖可替换激活函数的分类网络与白盒扰动评估,不依赖图像特有结构,因此可假设其能用于检验 EEG 分类器的局部扰动敏感性。可复用的是激活函数设计,需改造的是符合 EEG 幅值、频谱与通道约束的攻击设置。低信噪比、跨被试分布偏移及小样本可能使响应约束同时削弱有效信号。一个可证伪的小实验是在固定 EEG 数据划分与训练预算下,仅替换激活函数,比较原始与 Tent 网络的干净 Accuracy 和受约束白盒攻击下的 Accuracy,并检查梯度有效性。已有 EEG 相关工作尚未检索确认。
值得核对 Tent 激活函数限制开放空间风险的机制及其白盒攻击评估,但摘要中的鲁棒性优势仍需结合攻击配置、训练协议与梯度有效性检查验证。
来源:OpenReview · State space models · openreview.net