基于单条时间序列的稳定选择性状态空间模型的 PAC 可学习性
PAC Learnability of Stable Selective State-Space Models from a Single Time Series
基于摘要分析。本文研究一类稳定 selective State-Space Models(SSMs)能否仅从单条时间序列中学习,核心贡献是提出具体学习算法,并给出参数估计及相应预测误差的有限样本 PAC 保证。研究对象是具有特定结构的动力系统,并非对完整 Mamba 架构的一般性学习保证。 该模型的状态转移、输入及读出映射均可依赖当前输入,且被限制为当前输入适当特征的仿射函数。这种输入依赖机制也见于 Mamba 和 Linear Parameter-Varying(LPV)系统。所提算法扩展了线性系统中基于实现理论的 Ho–Kalman 学习算法,依赖估计 SSM 的 Markov parameters。 作者报告,在所研究模型类别及论文相应假设下,该算法具有有限样本概率误差界,速率为 Õ(1/N^ζ),其中 ζ≤1/2;该界针对参数估计误差,并进一步关联预测误差。作者据此认为,这一模型类满足单轨迹版本的 PAC 可学习性,即数据点充分时,可用足够高的概率达到所需精度。摘要未展开稳定性、输入激励、噪声、可辨识性及特征构造条件,也未给出实验结果;具体定理条件、样本复杂度常数、实验协议及统计信息尚未验证。 平台推测(待验证):其单轨迹学习机制可能为连续 EEG 动力学建模提供理论参照,但原领域保证不等于 BCI 有效性。可复用部分是输入依赖动力学的参数化及基于 Markov parameters 的辨识思路;需先明确 EEG 场景中何者是系统输入、何者是观测输出,再适配特征与噪声模型。低信噪比、非平稳性、通道差异及短记录可能使估计不稳定或使定理条件不成立。一个可证伪的小实验是假设有同步外部刺激输入和连续 EEG 输出,在单条记录的连续训练段辨识模型,并于后续留出段检验预测误差随训练长度的变化,与线性 SSM 对照;该实验只能检验建模适用性,不能直接验证 PAC 定理。相关 EEG 工作尚未检索确认。
值得关注其如何将 Ho–Kalman 实现方法扩展至输入依赖的 selective SSM,并为单条时间序列学习给出有限样本 PAC 保证;适用假设与 EEG 数据条件是否匹配尚未验证。
来源:OpenReview · State space models · openreview.net