跳到正文

算法、任务与模态

Multi-scale 最新动态

Multi-scale 研究索引；按可核对的标签归档，不以热度评价质量。

23 条精选近 30 天 12 条共收录 36 条

更新

精选归档 · 第 2 页

1月1日周三第 21–23 条
  1. OpenReview · EEG75

    CodeBrain：融合解耦分词器与多尺度架构的 EEG 基础模型

    基于摘要分析。CodeBrain 针对 EEG 通道配置、序列长度和任务目标差异带来的模型迁移困难，提出结合解耦分词器与多尺度架构的 EEG 基础模型，以两阶段训练学习通用表征。 第一阶段，TFDual-Tokenizer 独立对异质的时域和频域成分进行离散编码。作者称该设计可使离散表征空间获得二次方级扩展，并通过跨域 token 分析提供一定可解释性；具体码本规模、组合方式、分词器训练目标及解释性验证尚未验证。第二阶段，EEGSSM 将结构化全局卷积与滑动窗口注意力结合，分别覆盖稀疏长程依赖和局部依赖，并以掩码自监督学习预测 TFDual-Tokenizer 产生的 token 索引。 相较全连接 Transformer，作者认为 EEGSSM 更符合脑组织的小世界拓扑，能够高效捕捉 EEG 的多尺度结构。这是作者对架构的机制解释，尚不能仅凭摘要认定其具有经验证的生物学对应关系或明确的计算效率优势。 作者报告，在 10 个公开 EEG 数据集上采用线性探测评估，实验支持 CodeBrain 的泛化能力。摘要未列出数据集名称、任务、指标、基线或数据划分，因此不能判断这些结果分别对应被试内、跨被试、跨会话还是跨数据集协议，也不能量化性能提升。需进一步核对预训练与下游评估的数据关系、通道差异处理方式，以及解耦分词器和全局—局部架构各自的贡献；实验协议、消融及统计信息尚未验证。 复现方面，摘要说明代码和预训练权重将在未来版本发布，当前材料不足以确认可用实现。复现还需核对预处理流程、掩码策略、码本设置、预训练数据组成及线性探测配置。

    阅读价值：值得关注其时域与频域解耦离散表征及全局—局部依赖建模的组合机制，但跨数据集泛化的具体协议、效率收益与拓扑解释仍需全文核对，代码和预训练权重尚待发布。

  2. OpenReview · EEG75

    CodeBrain：结合解耦 Tokenizer 与多尺度架构的 EEG 基础模型

    基于摘要分析。CodeBrain 面向通道配置、序列长度和任务目标差异导致的 EEG 模型迁移困难，提出将时频解耦 Tokenizer 与多尺度架构结合的两阶段 EEG 基础模型，以增强异质信号表征和长短程依赖建模。 第一阶段，TFDual-Tokenizer 分别对时间与频率成分进行离散化。作者称，这种解耦方式使离散表征空间获得平方级扩展，并可通过跨域 token 分析提供一定可解释性；具体码本配置、组合方式及解释性验证尚未验证。第二阶段，EEGSSM 将结构化全局卷积与滑动窗口注意力结合，用于联合建模稀疏长程依赖和局部依赖，并以掩码自监督目标预测 TFDual-Tokenizer 生成的 token 索引。摘要未给出具体损失形式、掩码策略或训练规模。 相较于全连接 Transformer，作者将 EEGSSM 的设计解释为更贴近脑网络的小世界拓扑，并更高效地捕捉 EEG 的多尺度结构。这是作者的结构动机与结论，尚不能据此认定模型已验证真实脑连接结构，或在计算开销上具有确定优势。 作者报告，在 10 个公开 EEG 数据集上采用 linear probing 评估，结果支持 CodeBrain 的泛化能力。摘要未提供数据集名称、任务、被试数量、划分方式、对照基线和指标数值，因此无法判断其证据对应被试内、跨被试、跨会话还是跨数据集泛化，也不能直接比较不同协议下的性能。 复现时需核对时频解耦与多尺度模块各自的贡献、不同通道配置和序列长度的处理方式，以及预训练与下游评估的数据关系。实验协议、消融及统计信息尚未验证。作者表示代码与预训练权重将在未来版本发布；当前材料不能确认其已公开，也不能据此归类为模型或软件发布。

    阅读价值：值得阅读其时频解耦离散表征与全局—局部依赖建模的组合机制，但作者所述泛化能力与效率优势仍需结合完整评估协议、消融及资源开销核对。

9月26日周四
  1. OpenReview · State space models74

    Multi-Scale VMamba：层级内嵌层级的视觉状态空间模型

    基于摘要分析。研究针对视觉 State Space Models（SSMs）中多扫描策略带来的冗余，提出 Multi-Scale Vision Mamba（MSVMamba），通过多尺度二维扫描与通道混合模块改善效率和性能之间的权衡。 核心机制：作者分析认为，长程依赖是多扫描策略有效的重要原因。MSVMamba 在原始及下采样特征图上进行多尺度二维扫描，旨在保留长程依赖学习能力并降低计算成本；同时引入 Convolutional Feed-Forward Network（ConvFFN），补充通道混合。摘要未给出具体扫描路径、下采样配置、模块结构、损失或参数量，相关细节尚未验证。 作者报告：MSVMamba-Tiny 在 ImageNet 上取得 83.0% top-1 Accuracy；在 COCO 上，采用 Mask R-CNN 框架及 1x 训练日程，取得 46.9% box mAP 和 42.5% instance mAP；在 ADE20K 上采用单尺度测试，取得 47.9% mIoU。摘要未提供具体对照结果或实测计算开销，不能据此确认相对优势幅度。实验协议、消融及统计信息尚未验证。材料提供了代码仓库，但实现与复现条件尚未核对。 平台推测（待验证）：迁移假设是，多尺度扫描可能用于 EEG 的长短时程依赖建模，缓解长序列计算负担，但原方法依赖视觉二维特征图，不能直接等同于 EEG 通道与时间结构。可考虑复用 SSM 和多尺度处理思路，改造扫描顺序、下采样方式及通道混合模块。风险包括下采样丢失短暂 ERP 或高频信息、空间邻接不匹配，以及跨被试、通道变化和小数据条件下泛化不足。一个可证伪的小实验是在固定 EEG 任务与跨被试划分下，对比单尺度与多尺度扫描，控制参数量和训练预算，同时记录任务指标、延迟及短时事件识别表现。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其多尺度扫描能否在保留长程依赖建模能力的同时降低计算开销，以及 ConvFFN 的独立贡献；摘要提供了多任务结果，但效率收益与消融证据尚未验证。