与对抗扰动相对照:无害扰动空间
Contrasting Adversarial Perturbations: The Space of Harmless Perturbations
该研究关注深度神经网络中与对抗扰动相对的输入方向:作者提出,无害扰动空间中的扰动即使幅度较大,也可保持网络输出不变,并将其形成机制归因于网络中的非单射函数。基于摘要分析,未取得论文全文。 核心机制是不同输入可经线性或非线性层映射到相同输出。对于输入维度大于输出维度的线性层,作者指出,其参数映射零空间的一组正交基的任意线性组合都不会改变该层输出;非线性层中的无害扰动空间则可能随层的性质与输入样本而扩展。这里的“大幅度扰动不改变输出”以扰动属于相应无害空间为前提,不代表模型对任意大幅度噪声均鲁棒。 作者报告求解了一族对网络决策冗余的一般扰动空间,并提出将其用于隐藏敏感数据及模型识别。与研究使输出改变的小幅对抗扰动不同,本工作的重点是刻画模型输出保持一致的方向。摘要未提供具体求解算法、网络架构、数据集、评估指标或应用验证结果;层级不变性如何落实到整个网络、空间是否依赖样本,以及实验协议、消融及统计信息尚未验证。 平台推测(待验证):若将该机制用于 EEG 解码,假设可通过分析输入侧线性映射的零空间,识别解码器忽略的信号方向;可复用的是零空间分析,需改造的是通道、时间维度与预处理约束。这类模型不变方向未必对应生理无关成分,也不自动构成隐私保护;低信噪比、小数据及跨被试或通道变化可能使其解释和稳定性失效。一个小规模可证伪实验是在固定 EEG 解码器和预处理条件下,对留出样本加入不同幅度的零空间扰动,并与等幅非零空间扰动比较输出变化,同时检验扰动后的信号合理性。已有 EEG 相关工作尚未检索确认。
值得核对其无害扰动空间的数学条件与构造方法:该工作将输出不变性联系到非单射映射,为分析模型忽略的输入方向提供了具体机制,但敏感数据隐藏与模型识别的实用性尚未验证。
来源:OpenReview · State space models · openreview.net