通过自监督模型行为一致性编码时间序列解释
Encoding Time-Series Explanations through Self-Supervised Model Behavior Consistency
基于摘要分析。该研究面向时间序列模型的可解释性问题:既要定位驱动预测的信号位置,也要将这些位置对应到可理解的时间模式。作者提出 TimeX,通过训练可解释代理模型模仿预训练时间序列模型的行为,输出离散归因图,并学习可用于聚合相似解释、识别时间模式的解释潜在空间。 核心机制是模型行为一致性:使 TimeX 潜在空间中的关系与预训练模型潜在空间所诱导的关系保持一致,以增强解释对原模型行为的忠实性。与仅输出归因结果的方法相比,摘要强调 TimeX 还可利用解释空间中的代表性参照点(landmarks)进行可视化聚合。具体关系定义、损失形式、代理模型结构及训练细节尚未验证。 作者报告,在八个合成与真实世界数据集上与先进可解释性方法比较,TimeX 在所有数据集的各项评估指标中取得最高或次高表现;另有生理时间序列案例研究,用于展示其捕捉预训练模型行为的潜力。摘要未提供数据集名称、指标定义、具体数值、数据划分或基线配置,实验协议、消融及统计信息尚未验证;也不能据此确认案例包含 EEG 或证明其对 BCI 有效。 平台推测(待验证):假设 EEG 解码模型的潜在关系能够反映有意义的任务结构,TimeX 的代理解释与关系一致性机制可能用于分析模型依赖的时间片段,对应 EEG 解码中预测依据难以核查的问题。可复用部分是解释空间及一致性约束;需核对并改造多通道归因方式、时间粒度与代理模型输入。低信噪比、通道差异、跨被试变化和小样本可能使解释继承原模型的伪相关,行为忠实性也不等同于生理合理性。一个可检验的小实验是在固定 EEG 解码模型和既定被试内划分下,对比 TimeX 与归因基线,检查删除高归因片段后的预测变化及解释稳定性。已有 EEG 相关工作尚未检索确认。
值得核对 TimeX 如何通过潜在空间关系一致性提升解释的模型忠实性,以及解释空间能否稳定聚合相似时间模式;摘要中的性能结论仍需结合具体指标、基线与实验协议验证。
来源:OpenReview · State space models · openreview.net