从频谱视角评估深度状态空间模型的时间序列训练数据集
Evaluating Time-Series Training Dataset through Lens of Spectrum in Deep State Space Models
基于摘要分析。本文研究如何在训练早期评估时间序列训练数据对深度状态空间模型(deep SSMs)任务性能的价值,以减少数据收集与耗时训练反复试错的成本。作者提出 K-spectral metric,尝试以模型内部信号的谱信息预测训练数据集的有效性,而非提出 EEG 或 BCI 专用方法。 核心机制来自系统辨识:对于线性动力系统,可通过输入信号的频谱评价数据的有效性。作者将这一思路引入整体具有非线性特征的 deep SSMs,依据是其中每一层可被视为线性动力系统。K-spectral metric 定义为模型内部信号中排名前 K 的谱量之和;具体谱计算方式、内部信号的选取、跨层汇总方法、K 的选择及训练早期的计算时点,摘要未提供,尚未验证。 作者报告,在其所述实验中,该指标与模型性能的相关系数具有较大的绝对值,并据此认为它可用于评价训练数据质量。摘要未给出相关系数数值、相关方向、任务、数据集、性能指标或对照基线,因此不能判断指标越大是否一定越好,也不能将相关性直接解释为数据筛选会提升性能。实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 任务采用 deep SSMs,该机制可能用于比较训练数据子集的信息覆盖情况,对应数据采集与筛选成本这一瓶颈。可复用的是内部信号谱统计思路;需要重新确定 EEG 通道处理、归一化、K 值及评价时点。低信噪比条件下,较强谱成分可能来自伪迹而非任务相关活动;跨被试差异、通道配置变化和小样本也可能使指标与性能的关系不稳定。一个可检验的小实验是:在固定任务、模型和训练预算下,构造样本量相同的多个训练子集,以训练早期的 K-spectral metric 预测完整训练后在独立测试集上的性能,并分别核对被试内与跨被试结果。已有 EEG 相关工作尚未检索确认。
值得关注其将系统辨识中的信号谱评价引入 deep SSMs 训练数据评估的机制,但指标与性能的相关方向、稳定性及用于 EEG 数据筛选的有效性尚未验证。
来源:OpenReview · State space models · openreview.net