跳到正文
OpenReview · State space models·· 2026-07-30精选AI 评分76

神经网络中的隐状态:从模型权重恢复漂移数据的时间结构

Latent States in Neural Networks: Recovering the Temporal Structure of Drifting Data from Model Weights

AI 导读

研究探讨时间漂移数据是否会经历可离散识别的状态阶段,以及能否仅从模型权重恢复这些阶段;核心方法是对按时间排列并经过对齐的分类器权重轨迹拟合 hidden Markov model(HMM)。基于摘要分析,未取得论文全文。 原论文研究对象是 Fakeddit 上的多模态错误信息检测和 Yelp 上的情感分析,而非 EEG 或 BCI。作者在连续时间窗口上训练分类器,再用 HMM 将权重轨迹划分为隐状态,以检验处于相同状态的时间窗口之间是否更易迁移。该方法依赖带时间顺序的数据、窗口级分类器训练,以及不同窗口模型之间可比较的权重表示;具体权重对齐方式、训练初始化和 HMM 配置尚未验证。 作者报告,在两个数据集的跨时间窗口评估中,分类器向同状态窗口的泛化优于向跨状态边界窗口的泛化;控制时间邻近性后,该优势仍然存在,并略高于等大小连续分段基线所得到的优势。作者还报告,隐状态与类别分布变化的关联强于与用于估计状态的权重空间几何的关联;剔除类别分布差异和时间间隔的影响后,同状态迁移优势在两项任务上均超过置换零假设水平。各效应在 Yelp 上较弱,作者将其与该数据集标签分布在时间上更稳定联系起来。摘要未给出具体指标数值,数据划分、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 跨会话漂移包含可重复的离散阶段,权重轨迹加 HMM 或可用于识别具有迁移价值的会话组。可复用的是权重对齐、状态估计及同状态迁移检验;需适配 EEG 分类器、通道配置和窗口训练方案。低信噪比、小样本及训练随机性可能掩盖漂移,被试差异也可能主导状态划分。一个可检验的小实验是:在同一被试的多个有时间顺序的 EEG 会话上训练分类器,仅由权重估计状态,比较同状态与跨状态的留出会话迁移表现,并控制时间间隔和类别比例、加入等大小连续分段基线。相关 EEG 工作尚未检索确认。

阅读价值

值得核对其权重对齐与时间混杂控制:作者报告,仅由分类器权重估计的隐状态能刻画与跨时间迁移相关的阶段结构,但其在 EEG 漂移中的适用性尚未验证。

来源:OpenReview · State space models · openreview.net