跳到正文
OpenReview · State space models· Owen Queen; Thomas Hartvigsen; Teddy Koker; Huan He; Theodoros Tsiligkaridis; Marinka Zitnik·· 2023-01-01精选AI 评分77

通过自监督模型行为一致性编码时间序列解释

Encoding Time-Series Explanations through Self-Supervised Model Behavior Consistency

AI 导读

基于摘要分析。本文研究通用时间序列模型的可解释性:不仅定位影响预测的信号片段,还要将这些片段对应到可理解的时间模式。作者提出 TimeX,通过训练可解释代理模型模仿预训练时间序列模型的行为,生成离散归因图,并学习可用于组织和比较解释的潜在空间。 核心机制是 model behavior consistency(模型行为一致性):使 TimeX 潜在空间中的关系与预训练模型潜在空间中的关系保持一致,以增强解释对原模型行为的忠实性。不同于仅输出归因位置的方法,TimeX 还利用解释表示及 landmarks(地标)来可视化聚合相似解释、辅助识别时间模式。摘要未提供一致性损失的具体形式、代理模型结构、训练监督及预训练模型是否冻结等信息,尚不能据此重建实现。 作者报告,在八个合成与真实世界数据集上,与已有可解释性方法比较时,TimeX 在各数据集的每项评估指标中均取得最高或次高表现;作者还通过生理时间序列案例展示其捕捉预训练模型行为的潜力。摘要未列出数据集名称、指标定义、具体数值、数据划分或基线配置,因此该结论只能按作者报告理解,实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 预测模型的潜在表示包含稳定的任务相关时间结构,关系一致性约束可能帮助解释器同时呈现关键片段与跨样本解释模式;这是迁移假设,而非已证实的 BCI 效果。可复用的是代理解释器与关系一致性思路,需要适配 EEG 的通道—时间归因及跨被试差异。其风险在于原模型可能编码伪迹或被试身份,低信噪比、通道变化及小数据也可能使解释关系不稳定。一个可检验的小实验是在固定 EEG 分类器与同一数据划分下,对比启用和关闭关系一致性约束的解释器,检查归因片段遮蔽后的预测变化及解释稳定性。相关 EEG 工作尚未检索确认。

阅读价值

TimeX 将预训练模型的潜在空间关系一致性用于解释器训练,并提供可聚合的解释表示,值得核对其忠实性评估及生理时间序列案例,但对 EEG/BCI 的适用性尚未验证。

来源:OpenReview · State space models · openreview.net