跳到正文
OpenReview · State space models· Hongyang He·· 2025-10-25精选AI 评分71

Semi-ViM:用于缓解半监督学习标签不平衡的双向状态空间模型

Semi-ViM: Bidirectional State Space Model for Mitigating Label Imbalance in Semi-Supervised Learning

AI 导读

基于摘要分析。研究针对视觉半监督学习中不平衡训练数据引发的学习偏差,提出基于 Vision Mamba 双向状态空间模型(SSM)的 Semi-ViM 框架,通过稳定性感知参数更新和隐藏状态混合改善学习稳定性与不平衡数据下的表现;原论文研究对象是视觉表征学习,而非 EEG 或 BCI。 核心机制包括 LyapEMA 与 SSMixup:前者是受 Lyapunov 理论启发的稳定性感知参数更新机制,后者在双向 SSM 的隐藏状态层面实施 mixup。摘要未给出稳定性判据、更新公式、混合位置、混合目标及标签构造方式,因此尚不能判断两项机制分别如何抑制类别偏差,或区分其贡献与骨干架构变化带来的收益。 作者报告在 ImageNet-1K 和 ImageNet-LT 上优于现有半监督学习模型,并报告仅使用 10% 标注数据时达到 85.40% Accuracy、超过 Semi-ViT 等 Transformer 方法。不过,摘要未明确该数值对应哪个数据集,也未说明标注数据抽样、类别分布、未标注数据组成及对照设置;该结果不能直接作为两个数据集上的共同结论。实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 分类同样受标注稀缺和类别不平衡影响,可检验稳定性感知更新与隐藏状态混合是否有助于降低训练波动。这一假设依赖可用的标注与未标注 EEG 数据,以及适合时序信号的双向 SSM 表征;视觉输入编码需改为 EEG 时间与通道编码,隐藏状态混合及其目标构造也需核对并适配。低信噪比、跨被试差异、通道配置变化和小样本训练可能导致混合表征失真,原领域有效不等于 BCI 有效。可在固定跨被试划分和标注比例下,对同一 EEG SSM 基线分别加入两项机制及其组合,在自然与受控类别不平衡条件下比较 Balanced Accuracy 和多次运行波动。相关 EEG 工作尚未检索确认。

阅读价值

值得核对 LyapEMA 的稳定性感知更新与 SSMixup 的隐藏状态混合如何缓解半监督类别不平衡,但摘要所述性能优势及其对 EEG 的适用性尚未验证。

来源:OpenReview · State space models · openreview.net