跳到正文
OpenReview · State space models·· 22 天前精选AI 评分79

概率 JEPA 的隐马尔可夫模型本质:联合嵌入预测学习的状态空间解释

Your Probabilistic JEPA Is Secretly a Hidden Markov Model: A State-Space Interpretation of Joint-Embedding Predictive Learning

AI 导读

基于摘要分析。本文研究概率时序 JEPA 与隐马尔可夫模型(HMM)的关系,将完整、带时间索引的 Predictive Information Bottleneck VJEPA(PIB-VJEPA)解释为隐状态推断、Markov 状态转移与观测生成的组合,并提出 Markov-Chain JEPA(MCJEPA)作为具体实现。 核心对应是:随机上下文编码器承担摊销滤波分布的角色,概率预测器定义潜在状态动力学,解码器、目标编码器的逆映射或诱导的隐式条件分布提供从状态到观测的生成方向。作者区分了四个逐渐增强的对应层级,从计算结构类比到精确的序列级等价及模型与目标等价,并给出概率时序 JEPA 可精确表示为 HMM 的充分条件。因此,不能将结论泛化为任意 JEPA 都等价于 HMM;具体条件尚需全文核对。 MCJEPA 以可学习转移矩阵替代潜在预测器。在有限状态、时间齐次的设定下,矩阵幂保证跨预测时距的精确 Chapman–Kolmogorov 一致性。框架还讨论了条件化离散状态转移、连续状态 Markov 核、连续时间动力学及确定性 Dirac 核。作者将预测信息瓶颈学习重新解释为 Markov 状态构造:压缩促进最小性,而残余可预测性用于诊断状态的不充分性。 作者报告,受控实验支持转移恢复与组合、上下文编码器的滤波解释、已知最小预测状态的恢复,以及包含混合 JEPA–HMM 目标的 HMM 式序列训练。摘要未提供数据规模、划分、对照基线或定量指标;具体目标函数、实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 序列存在可由紧凑潜在状态近似描述的预测结构,该机制可能用于自监督时序表征和多时距预测,但原领域结果不等于 BCI 有效性。可复用的是概率状态推断与转移组合,需改造 EEG 观测编码及状态空间;低信噪比、跨被试与通道差异、小数据和非平稳性可能使有限状态或时间齐次假设失效。一个可检验的小实验是,在固定 EEG 被试内划分与相同编码器条件下,比较转移矩阵预测器和普通潜在预测器的多时距预测误差及转移组合一致性。已有 EEG 相关工作尚未检索确认。

阅读价值

值得阅读其概率时序 JEPA 与 HMM 对应关系的成立条件,以及 MCJEPA 的多预测时距一致性构造;摘要中的受控实验尚不足以验证其对 EEG/BCI 的适用性。

来源:OpenReview · State space models · openreview.net