MOREL:通过多目标表征学习增强对抗鲁棒性
MOREL: Enhancing Adversarial Robustness through Multi-Objective Representation Learning
基于摘要分析。MOREL 针对深度神经网络易受微小对抗扰动影响的问题,提出多目标特征表征学习方法:在训练阶段促使同类输入即使受到扰动也产生相似特征,同时保持分类预测准确性,以增强原模型的对抗鲁棒性。 核心机制是在嵌入空间中使用 cosine similarity loss 和 multi-positive contrastive loss,对齐编码器产生的自然样本与对抗样本特征,并促进同类特征紧密聚集;分类器则同时接受准确预测的训练目标。摘要未给出损失的具体公式、权重配置、正样本构造规则或对抗样本生成方式,这些实现条件尚未验证。其方法定位是通过训练阶段的表征约束增强防御,而非修改模型架构或增加测试时数据净化。 作者报告,在所开展的白盒与黑盒对抗攻击实验中,MOREL 提升了 DNN 的鲁棒性,并优于同样不要求架构改动或测试时数据净化的其他方法。摘要未提供数据集、攻击类型与预算、对照方法名称、评价指标或具体数值,因此尚不能判断收益大小及其适用范围;实验协议、消融及统计信息尚未验证。 平台推测(待验证):该机制可能用于 EEG 分类中约束同类原始信号与扰动信号的表征一致性,对应输入扰动敏感性这一问题。可复用模块是特征对齐与多正样本对比目标;需改造的部分是符合 EEG 信号特性的扰动构造和正样本定义。该假设依赖类别监督与足够可靠的同类样本,低信噪比、跨被试差异、通道变化及小数据条件可能使聚类目标压缩有用的类内差异,且对抗鲁棒性不等于跨被试泛化。一个可检验的小实验是在固定 EEG 分类器和相同数据划分下,对比原训练、对抗训练与加入 MOREL 表征约束的训练,分别评估干净输入及预先固定攻击预算下的分类表现;若采用跨被试划分,应单独报告。已有 EEG 相关工作尚未检索确认。
来源:OpenReview · Representation learning · openreview.net