不仅归因于哪些样本,更归因于影响如何展开:扩散模型的反事实响应轨迹
Attributing HOW, Not Just WHICH: Counterfactual Response Trajectories for Diffusion Models
基于摘要分析。本文研究扩散模型生成结果的训练样本归因,提出 Concept Attribution method through Dynamic Trajectories(CADT):不只识别哪些训练样本有影响,还通过去噪过程中内部表征的变化轨迹描述影响如何展开。 核心机制是,在相同噪声状态下构造匹配的反事实配对,以分离特定因素引起的表征位移,并跟踪位移方向与幅度随去噪阶段的演化。CADT 为每个训练样本和生成查询提取分阶段特征,并沿去噪过程整合为轨迹描述符;训练集对应的描述符构成因素特定的轨迹库。随后利用轨迹库的协方差统计构造协方差感知的半正定核,对查询与训练表征进行校准,再比较轨迹以获得训练样本归因分数。所给摘要在核构造描述处存在句子缺损,具体数学定义、反事实因素的设定及特征提取位置尚未验证。 相较将因素效应压缩为标量响应的方法,本文的主要区别在于保留内部响应的阶段性变化。作者报告,在多个公开数据集的层级、组合及风格归因评估中,相对既有扩散归因基线获得一致改进;摘要未提供数据集名称、划分、基线名称、指标或数值,实验协议、消融及统计信息尚未验证。复现还需核对反事实配对生成方式、轨迹整合规则、协方差估计与计算成本。 平台推测(待验证):若 EEG 生成模型具有可控语义因素与可匹配的去噪状态,这一机制可能用于检查训练样本如何影响生成信号,而非直接用于判别式 BCI 解码。可复用部分是轨迹描述与协方差校准;需改造的是 EEG 表征及反事实因素定义。低信噪比、被试差异、通道配置变化和小样本协方差估计可能使归因不稳定。一个可证伪的小实验是在固定被试与通道配置的 EEG 扩散模型中,比较轨迹归因与标量归因对受控因素扰动的识别能力,并用训练样本移除后的响应变化检验归因有效性。已有 EEG 相关工作尚未检索确认。
值得核对 CADT 如何用相同噪声状态下的反事实配对与去噪轨迹区分训练样本的影响方式,但其核构造细节及相对基线的收益尚需全文验证。
来源:arXiv · 多模态与生成机制 · arxiv.org