通过自监督模型行为一致性编码时间序列解释
Encoding Time-Series Explanations through Self-Supervised Model Behavior Consistency
基于摘要分析。该研究针对时间序列模型解释中的两个问题:定位驱动预测的信号片段,以及将这些片段对应到可理解的时间模式。作者提出 TimeX,通过训练可解释代理模仿预训练时间序列模型的行为,生成离散归因图,并学习可用于聚合相似解释的潜在空间。 核心机制是模型行为一致性:使预训练模型潜在空间中的关系与 TimeX 潜在空间中的关系保持一致,以提升解释对原模型行为的忠实性。区别于仅输出归因结果的解释方式,TimeX 的解释潜在空间还可提供代表性参照点,辅助可视化聚合与时间模式识别。摘要未给出关系的具体定义、损失形式、代理结构、离散归因的生成方式及训练所需监督,以上尚未验证。 作者报告,在八个合成及真实世界数据集上,与已有先进解释方法比较,TimeX 在各数据集的各项评估指标中取得最高或第二高表现;作者还通过生理时间序列案例展示了其捕捉预训练模型行为的潜力。摘要未列出数据集名称、指标、具体分数、划分协议和基线配置,因此不能判断优势幅度或不同评估条件下的稳定性;实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 模型的潜在关系能稳定反映任务相关时间模式,TimeX 的关系一致性与离散归因机制可能用于检验模型是否依赖可重复的 EEG 片段,而非仅提供局部显著性。可复用部分是解释代理与潜在关系保持思路,需改造部分包括多通道归因表示及时间、通道扰动方式;其对数据规模和监督的依赖需查阅全文。低信噪比、跨被试差异、通道变化和小样本可能使原模型关系本身不稳定,代理也可能忠实复制伪迹依赖。一个可检验的小实验是在固定 EEG 分类模型和既定被试内划分下,比较 TimeX 与归因基线对所选片段扰动后的预测变化及解释稳定性,并检查是否集中于伪迹。该假设不构成已证实的 BCI 效果,已有 EEG 相关工作尚未检索确认。
TimeX 将解释忠实性建模为预训练模型与解释代理之间的潜在空间关系一致性,值得核对其如何兼顾离散归因与可聚合的时间模式解释,但其 EEG/BCI 适用性尚未验证。
来源:OpenReview · State space models · openreview.net