跳到正文
OpenReview · EEG· Jingyuan Chen; Yuan Yao; Mie Anderson; Natalie Hauglund; Celia Kjaerby; Verena Untiet; Maiken Nedergaard; Jiebo Luo·· 2025-01-01精选AI 评分72

sDREAMER:用于自动睡眠分期的自蒸馏模态专家混合 Transformer

sDREAMER: Self-distilled Mixture-of-Modality-Experts Transformer for Automatic Sleep Staging

AI 导读

基于摘要分析。sDREAMER 面向基于 EEG 与 EMG 的自动睡眠分期,针对现有方法模态间信息交互有限、难以用统一模型处理不同输入来源的问题,提出模态专家混合 Transformer 与自蒸馏训练方案,使多通道训练后的模型能够接受单通道或多通道输入进行分类。 核心机制是 mixture-of-modality-expert(MoME)结构,包含 EEG、EMG 和混合信号三条路径,并在路径间部分共享权重。作者进一步引入自蒸馏以促进跨模态信息交互,强调融合能力与各通道独立推理的表现。摘要未说明权重共享的位置、蒸馏教师与学生的具体关系、损失形式,以及不同输入配置在训练和推理中的处理方式,这些实现细节尚未验证。 作者报告,在多通道推理条件下,sDREAMER 优于现有基于 Transformer 的睡眠评分方法;在单通道推理条件下,也优于使用单通道信号训练的 Transformer 模型。摘要未提供数据集、研究对象、样本规模、睡眠阶段定义、评价指标或数值,也未说明被试内、跨被试或跨会话划分,因此目前不能判断提升幅度及其泛化范围。实验协议、消融及统计信息尚未验证。 这项工作的直接研究对象是 EEG/EMG 睡眠分期,不应将其结果等同于其他 BCI 任务的有效性。复现时需核对输入通道配置、信号预处理、分期标注、训练与测试划分,并确认多通道训练和单通道训练基线的比较条件;部分共享权重与自蒸馏各自的贡献也需依据全文实验评估。

阅读价值

值得阅读的是其通过部分共享权重的模态专家与自蒸馏,将 EEG/EMG 多通道训练和单通道推理统一起来的机制;作者报告的优势仍需结合具体数据划分、基线及统计结果核对。

来源:OpenReview · EEG · openreview.net