跳到正文
OpenReview · State space models· Yuni Lai; Marcin Waniek; Yulin Zhu; Liying Li; Jingwen Wu; Tomasz P. Michalak; Talal Rahwan; Kai Zhou·· 2023-01-01精选AI 评分76

针对基于随机游走的异常检测的双空间攻击

Dual-Space Attacks against Random-Walk-based Anomaly Detection

AI 导读

基于摘要分析。本文研究基于随机游走的异常检测(RWAD)的对抗脆弱性:输入图既可能预先存在,也可能由原始特征构建,因此攻击可发生在图空间或特征空间。核心贡献是研究两个空间之间的耦合关系,并利用图空间攻击结果引导特征空间攻击;主要研究对象是图异常检测,而非 EEG 或 BCI。 方法上,作者报告通过复杂度分析证明攻击 RWAD 为 NP-hard,并将图空间攻击表述为双层优化问题,提出交替迭代策略 alterI-attack,以及利用随机游走模型闭式解的 cf-attack。在此基础上,作者设计 graph-guided attacks,将图空间中的攻击结果作为特征扰动的指导。摘要未提供具体目标函数、可修改的图元素、特征约束及攻击预算定义,这些实现条件尚未验证。 结果方面,作者报告在有限攻击预算下,所提攻击能够有效影响目标节点的异常检测结果;在黑盒迁移攻击实验中,作者报告特征攻击显著降低了目标节点的异常分数。摘要未给出数据集、预算数值、对照方法、效应大小及显著性检验细节,实验协议、消融及统计信息尚未验证。 平台推测(待验证):若某项 EEG 异常检测流程先由信号特征构图,再使用 RWAD,则双空间攻击可用于检验特征扰动经建图过程放大或改变检测结果的风险。可复用的是图攻击指导特征攻击的优化思路;需改造的是符合 EEG 信号与特征约束的扰动模型。该假设依赖明确的特征到图映射,低信噪比、跨被试差异、通道变化及小数据可能使攻击方向不稳定。一个可证伪的小实验是在固定数据划分与 RWAD 检测器下,以相同特征扰动预算比较 graph-guided attacks、直接特征攻击和随机扰动,观察目标异常分数及正常样本误报变化。已有 EEG 相关工作尚未检索确认,原领域结果不构成 BCI 有效性的证据。

阅读价值

值得关注其将图空间优化结果用于引导特征空间攻击的机制,可为基于特征建图的异常检测提供鲁棒性评估思路,但具体约束、攻击效果及 BCI 适用性尚未验证。

来源:OpenReview · State space models · openreview.net