面向带标记事件序列的深度连续时间状态空间模型
Deep Continuous-Time State-Space Models for Marked Event Sequences
基于摘要分析。本文研究带标记时序点过程(MTPPs),即在不规则时间间隔发生、并带有事件类型等标记的事件序列,而非连续采样的 EEG 信号。作者提出 state-space point process(S2P2),将现代深度状态空间模型(SSMs)的技术引入连续时间事件建模,旨在兼顾预测表达能力与计算效率。 核心机制受到经典线性 Hawkes processes 启发,通过交替组合随机跳跃微分方程与非线性变换,构建基于强度函数的 MTPP 模型。作者强调,该设计无需对强度函数施加限制性的参数化假设,并提供离散序列模型(如 RNNs、transformers)未直接捕获的连续时间归纳偏置。训练与推理使用 parallel scan;作者称其具有线性复杂度和次线性扩展特性,但摘要未说明两者分别对应的计算量、并行时间或硬件条件,需结合全文核对。 作者报告,在八个真实世界数据集的预测似然评估中,S2P2 达到最先进结果,相对最佳现有方法平均改善 33%。摘要未提供数据集名称、划分方式、具体基线、似然指标定义及改善比例的计算方法,因此不能将该数字解释为 Accuracy 提升或百分点变化。实验协议、消融及统计信息尚未验证,代码与复现条件也尚未验证。 平台推测(待验证):若 EEG/BCI 任务可表示为带时间戳和类型标记的离散事件序列,S2P2 的连续时间状态演化与跳跃更新机制可能用于建模事件间依赖;这一假设依赖可靠的事件提取、标记定义及足够的训练序列,不等同于直接适用于原始 EEG 解码。可复用部分是事件时间建模与并行计算机制,需改造的是 EEG 到事件序列的表示及任务输出。低信噪比、通道差异、跨被试分布变化和小数据可能使事件标记不稳定或模型过拟合。一个可检验的小实验是在固定事件提取规则和跨被试划分下,对比 S2P2、Hawkes processes 与离散序列模型的事件预测似然,并检验时间戳扰动下的稳定性。已有 EEG 相关工作尚未检索确认。
值得核对 S2P2 如何结合连续时间事件归纳偏置与 parallel scan,在保持强度函数表达能力的同时提高训练和推理效率;其对 EEG/BCI 事件序列的适用性尚未验证。
来源:OpenReview · State space models · openreview.net