跳到正文
OpenReview · State space models· Yu Zheng; Boyang Gong; Fanye Kong; Yueqi Duan; Bingyao Yu; Wenzhao Zheng; Lei Chen; Jiwen Lu; Jie Zhou·· 2025-01-01精选AI 评分74

面向开放世界模型归因的反事实解耦注意力学习

Learning Counterfactually Decoupled Attention for Open-World Model Attribution

AI 导读

基于摘要分析。本文研究开放世界模型归因,即利用视觉生成痕迹判断其来源模型,提出 Counterfactually Decoupled Attention Learning(CDAL),试图减少伪统计相关性对归因的干扰,并提升对未见来源模型及新型攻击的泛化能力;研究对象不是 EEG 或 BCI。 核心机制是显式建模注意力所关注的视觉痕迹与来源模型归因之间的因果关系,通过反事实解耦,将具有判别性的模型特异性生成痕迹与混杂的来源偏差分离并进行比较。方法以所得因果效应量化学习到的注意力图质量,并通过最大化该效应,鼓励网络捕获更具泛化性的生成模式。相较摘要所述依赖手工区域划分或特征空间设计的方法,其主要区别在于对注意力质量引入反事实评价;具体干预变量、反事实构造、效应估计及优化形式尚未验证。 作者报告,在现有开放世界模型归因基准上,CDAL 以较小计算开销持续改善当前先进模型,尤其在未见新型攻击上取得较大提升。摘要未提供基准名称、数据划分、指标、具体增益或开销数值,因此不能量化效果或比较不同协议。实验协议、消融及统计信息尚未验证。摘要提供了源码地址,但代码内容、运行依赖及可复现程度尚未核验。 平台推测(待验证):若反事实构造能够区分任务相关信号与被试、会话或采集设备偏差,该机制可能用于检验 EEG 注意力是否依赖混杂因素;这只是机制层面的迁移假设,不是已证实的 BCI 效果。需核对原方法对视觉空间结构、来源标签和样本规模的依赖,并改造 EEG 的时空注意力及反事实构造。低信噪比、通道差异与小样本可能使反事实样本失真,或误删任务相关信息。可在固定 Cross-subject 划分下,对同一 EEG 基线比较加入与不加入反事实注意力约束的结果,检验性能变化及注意力对被试偏差的敏感性;相关 EEG 工作尚未检索确认。

阅读价值

值得阅读其以反事实效应评价注意力图、分离模型特异性痕迹与来源偏差的机制,但性能增益及其向 EEG 场景迁移的有效性尚需核验。

来源:OpenReview · State space models · openreview.net