OpenReview · State space models· Tamir Shor; Ethan Fetaya; Chaim Baskin; Alex M. Bronstein·· 2026-02-23精选AI 评分71
权重空间分类器中的对抗攻击
Adversarial Attacks in Weight-Space Classifiers
AI 导读
基于摘要分析。本文研究直接在 Implicit Neural Representations(INRs,隐式神经表示)参数空间中执行分类的模型是否容易受到对抗攻击,并提出一组针对参数空间分类器的攻击方法,以考察其鲁棒性及攻击的实际可行性。作者报告,这类分类模型无需鲁棒训练即可表现出内在的对抗鲁棒性;该结论的攻击范围与评估前提尚需全文核对。 INR 以神经网络参数紧凑、连续地表示原始数据。本文的研究对象是以这些表示网络的参数为输入的分类器,而非通常直接处理原始数据的分类器。摘要将直接在参数空间执行下游任务的潜在计算收益作为背景,但没有提供本文对应的资源测量结果。其主要贡献在于构建面向这一输入空间的对抗攻击集合,并分析实际攻击中的相关考量;具体攻击算法、扰动约束及其如何影响 INR 所表示的数据,摘要未予展开。 目前无法核对数据集、INR 构建方式、分类任务、数据划分、攻击者能力、对照基线或鲁棒性指标,因此不能据此判断该结论能否覆盖不同攻击预算和模型设置。实验协议、消融及统计信息尚未验证。 材料未涉及 EEG 或 BCI,也未给出与神经信号任务的具体机制对应关系,不能将其结论直接解释为 EEG 分类的安全性证据;已有 EEG 相关工作尚未检索确认。
阅读价值
值得核对其面向 INR 参数空间分类器设计的攻击方式与约束,以判断作者所称“无需鲁棒训练即可具备鲁棒性”的适用边界,而非将其视为一般分类模型的安全保证。
来源:OpenReview · State space models · openreview.net