OpenReview · State space models· Deividas Eringis; John Leth; Zheng-Hua Tan; Rafal Wisniewski; Mihaly Petreczky·· 2024-05-02精选AI 评分74
通过 Rényi 散度构建一类线性时不变状态空间模型的 PAC-Bayesian 误差界
PAC-Bayesian Error Bound, via Rényi Divergence, for a Class of Linear Time-Invariant State-Space Models
AI 导读
基于摘要分析。本文研究含输入的线性时不变随机状态空间模型(随机 LTI 系统)的学习与误差界问题,主要贡献是形式化该类系统的学习问题、推导 PAC-Bayesian 误差界,并讨论该误差界的推论。标题表明其误差界通过 Rényi 散度构建,但摘要未提供具体公式及推导条件。 研究对象是控制工程和计量经济学中常用的随机动力系统,而非 EEG 解码模型。作者指出,该类系统也可视为循环神经网络的一个特殊情形,因此本文的阅读价值主要在于动力系统学习的理论分析,不能据此推广到所有循环神经网络或现代 State Space Model。 需从全文核对的内容包括:允许的系统与噪声假设、预测目标和损失、先验与后验的定义、Rényi 散度在界中的具体作用,以及误差界如何依赖样本规模和时序数据结构。摘要未披露实验结果;实验协议、消融及统计信息尚未验证,也无法判断该界的紧致性或实践可计算性。 材料没有提供 EEG/BCI 验证。若用于神经信号时序建模,首先需要评估随机 LTI 假设是否适用;低信噪比、非平稳性及跨被试差异下的适用性尚未验证。已有 EEG 相关工作尚未检索确认。
阅读价值
值得关注其如何为含输入的随机 LTI 系统形式化学习问题并建立 PAC-Bayesian 误差界,但界的具体假设、可计算性及对 EEG 建模的适用性尚未验证。
来源:OpenReview · State space models · openreview.net