跳到正文
OpenReview · State space models· Roussel Desmond Nzoyem·· 2026-03-01精选AI 评分70

通过权重空间序列建模实现支持集外泛化

Out-of-Support Generalisation via Weight-Space Sequence Modelling

AI 导读

基于摘要分析。本文研究支持集外(out-of-support,OoS)泛化,即模型对训练数据取值范围之外样本的外推问题,提出 WeightCaster,将该问题重新表述为权重空间中的序列建模任务。其主要研究对象是通用预测模型的外推可靠性,而非 EEG 或 BCI。 核心机制是把训练集划分为同心壳层,将各壳层对应到离散序列步骤,并在权重空间进行序列建模。作者称,该框架无需显式归纳偏置,即可产生合理、可解释且具有不确定性感知能力的预测,同时保持较高计算效率。摘要未说明壳层的中心、距离定义、各步骤权重的获取方式、序列模型结构、损失函数或不确定性估计方法,这些内容尚未验证。 作者报告,在合成 cosine 数据集和真实空气质量传感器读数上的验证中,性能与最先进方法相当或更优。摘要未提供具体指标、数值、训练与外推区间、数据划分及对照方法,因此不能据此判断外推距离增加时的性能变化,也不能将其与其他评估协议直接比较。实验协议、消融及统计信息尚未验证;代码与复现条件亦未由材料确认。 平台推测(待验证):若 EEG 任务存在具有明确顺序和距离意义的连续变化轴,例如可量化的采集条件变化,该方法可能为训练覆盖范围外的预测提供可检验思路。但 OoS 外推不等同于一般跨被试域泛化;可复用的是壳层序列化与权重空间建模思路,需改造的是 EEG 的距离定义、预测目标及不确定性校准。低信噪比、通道差异和小数据可能使壳层顺序不稳定,或使权重变化难以外推。可在具有明确连续条件轴的 EEG 数据中,仅用中间范围训练、保留范围外条件测试,对照相同基础预测器,检查任务指标与不确定性校准是否改善。相关 EEG 工作尚未检索确认。

阅读价值

值得核对 WeightCaster 如何将训练范围外的外推转化为权重空间序列建模,以及其不确定性估计是否可靠;摘要中的性能主张尚需结合实验协议与基线验证。

来源:OpenReview · State space models · openreview.net