从频谱视角评估深度状态空间模型的时间序列训练数据集
Evaluating Time-Series Training Dataset through Lens of Spectrum in Deep State Space Models
基于摘要分析。该研究关注如何在无需完成深度状态空间模型(deep SSMs)训练的情况下,尽早评估时间序列训练数据集的有效性,提出利用模型内部信号频谱构造 K-spectral metric,以估计数据集对应的模型性能并辅助数据收集。 核心机制来自系统辨识:在线性动力系统中,输入信号的频谱可用于评价数据的有效性。作者将这一思路引入整体具有非线性特征的 deep SSMs,依据是其每一层可被视为线性动力系统。摘要将 K-spectral metric 定义为模型内部信号的前 K 个谱量之和,但谱量的具体定义、信号采集位置、K 的选择以及指标计算所需的训练阶段尚未验证,不能将其直接等同于原始数据的频带能量或协方差特征值。 作者报告,在其所用实验条件下,K-spectral metric 与模型性能的相关系数绝对值较大,可用于评价训练数据集质量。摘要未提供数据集、任务、性能指标、相关系数数值及方向,因而尚不能判断它能否稳定排序不同数据集,或跨模型与任务泛化。实验协议、对照、消融及统计信息尚未验证;实际节省的数据收集与训练成本也需核对正文。 平台推测(待验证):若该指标能在少量训练后反映信号对模型动力学的有效激励,它可能对应 EEG 中训练数据覆盖不足与筛选成本高的问题。可复用部分是模型内部信号的频谱评估思路;需改造或核对多通道信号处理、采样率与窗口长度的标准化,以及被试差异下的指标可比性。低信噪比、伪迹、通道变化和小数据可能使较大的谱量反映噪声而非任务信息。一个可检验的小实验是,在固定 deep SSM、训练预算及 Cross-subject 划分下,仅从训练被试构建不同数据子集,比较早期指标与最终留出被试性能的相关性,并检验伪迹增加是否改变排序。已有 EEG 相关工作尚未检索确认。
值得核对 K-spectral metric 与模型性能的相关性及其计算成本,以评估它能否在训练早期辅助筛选时间序列训练数据;其 EEG 适用性尚未验证。
来源:OpenReview · State space models · openreview.net