跳到正文

算法、任务与模态

Efficient AI 最新动态

Efficient AI 研究索引；按可核对的标签归档，不以热度评价质量。

155 条精选近 30 天 108 条共收录 176 条

更新

精选归档 · 第 8 页

9月26日周四第 141–155 条
  1. OpenReview · State space models79

    VMamba：视觉状态空间模型

    基于摘要分析。该研究针对计算机视觉网络的计算效率问题，将状态空间语言模型 Mamba 改造为视觉骨干 VMamba，提出通过二维扫描聚合上下文信息的架构，并以线性时间复杂度为设计特征。 核心机制是由 Visual State-Space（VSS）块构成网络，并在其中使用 2D Selective Scan（SS2D）模块。SS2D 沿四条扫描路径遍历二维数据，以衔接一维 selective scan 的有序处理方式与二维视觉数据的非序列结构，从不同方向收集上下文信息。作者据此构建一组 VMamba 架构，并通过架构及实现层面的优化加速；具体扫描顺序、网络配置、训练损失及优化细节尚未验证。 作者报告，VMamba 在多种视觉感知任务中表现良好，相较所比较的基准模型具有更好的输入规模扩展效率。摘要未提供具体任务、数据集、指标数值、对照模型或计算成本测量条件，因此尚不能核对性能与效率之间的权衡。实验协议、消融及统计信息尚未验证。摘要提供了源码仓库，但代码与论文实验的一致性、运行环境及复现成本仍需核对。 平台推测（待验证）：迁移假设是，将 SS2D 用于 EEG 的通道×时间表示，可能为长时间窗与跨通道上下文建模提供一种计算效率较高的路径；这不是已验证的 EEG/BCI 结果。原方法依赖具有二维组织结构的视觉输入，而 EEG 通道顺序不天然等同于规则图像网格，需改造通道排列、空间编码及输入适配模块。低信噪比、跨被试分布变化、通道配置差异和小数据训练可能使视觉扫描机制失效。可检验的小实验是在同一 EEG 数据集、固定 Cross-subject 划分及训练预算下，对比二维扫描与一维时间扫描，并扰动通道排列，检验收益是否依赖人为顺序，同时测量不同时间窗长度下的运行成本。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读其用四条扫描路径将一维 selective scan 适配二维视觉数据的机制及输入规模扩展效率评估，但该机制对 EEG 的适用性尚未验证。

  2. OpenReview · State space models76

    Coupled Mamba：利用耦合状态空间模型增强多模态融合

    基于摘要分析。研究针对多模态融合中复杂的模态内与模态间相关性，提出 Coupled SSM，通过耦合不同模态的状态链建模动态交互，同时保持各模态内部状态过程的独立性；Coupled Mamba 是其多模态融合模型。 核心机制是跨模态隐状态转移：当前状态依赖自身状态链及相邻状态链在前一时间步的状态。为兼容 SSM 的硬件感知并行设计，作者通过引入历史状态并推导状态方程，得到全局卷积核。其具体耦合参数化、卷积核构造、训练损失及并行实现尚未验证，不能仅凭摘要判断其计算复杂度或适用序列长度。 作者报告，在 CMU-MOSEI、CH-SIMS、CH-SIMSV2 的多域输入实验中，相较所比较的方法，F1-Score 分别提高 0.4%、0.9% 和 2.3%。这里保留摘要的百分比表述，其指相对增幅还是绝对百分点尚未验证。作者还报告推理快 49%、GPU 显存节省 83.7%；对应基线、硬件、输入长度、批量大小及测量口径尚未验证，不能据此推断其他任务中的加速幅度。数据划分、F1 计算方式、消融及统计信息同样需查阅全文。 平台推测（待验证）：若跨模态状态耦合能利用互补时序信息，它可能适用于 EEG 与其他生理信号的联合建模，但这不构成已验证的 BCI 效果。迁移依赖可配对、可对齐的多模态序列及明确的任务监督；可复用状态链耦合思路，需改造信号编码、采样率对齐与状态更新时间尺度。EEG 低信噪比、跨被试差异、通道变化及小数据可能使耦合传播噪声而非有效信息。一个可证伪的小实验是在固定跨被试划分、相同编码器和训练预算下，对比独立状态链与耦合状态链，并测试模态缺失或时间错位时的表现。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读其跨模态隐状态耦合与硬件并行兼容的推导，作为多模态序列融合的机制参考；摘要中的性能与资源收益仍需结合全文评估协议核对。

9月18日周三
  1. OpenReview · State space models78

    状态空间模型的参数高效微调

    基于摘要分析。本文研究 Mamba 等深度状态空间模型（SSMs）的参数高效微调（PEFT），重点比较现有方法的适用性及微调模块的选择，并提出 LoRA with Selective Dimension tuning（SDLoRA），将线性投影矩阵上的 LoRA 与 SSM 模块中部分通道和状态的选择性更新结合。 作者报告，在 SSM 模型上对四种基本 PEFT 方法进行经验评估后，prompt-based 方法（如 prefix-tuning）效果不佳，理论分析也支持这一观察；相比之下，LoRA 仍然有效。针对 LoRA 的应用位置，作者报告，理论与实验均支持仅将 LoRA 应用于线性投影矩阵、而不修改 SSM 模块的配置效果最好，直接以 LoRA 微调 SSM 模块则效果不佳。SDLoRA 并非在 SSM 模块中简单增加 LoRA，而是对其中部分通道和状态进行选择性更新，同时保留投影矩阵上的 LoRA。作者报告，该组合优于标准 LoRA，但摘要未提供具体任务、数据集、指标或增益幅度。 需核对的关键细节包括：四种 PEFT 方法的完整设置、通道与状态的选择规则、可训练参数预算及其匹配方式，以及理论结论的适用条件。实验协议、消融及统计信息尚未验证，不能据此判断其在不同模型规模或任务上的普适性。 平台推测（待验证）：若已有预训练 EEG SSM 编码器，该机制可能用于缓解跨被试适配中训练样本有限、全量微调成本较高的问题。可复用的是投影矩阵 LoRA 和 SSM 维度选择性更新的思路；需改造的是 EEG 输入映射、任务输出头及维度选择策略。其原始论证背景为语言建模中的 SSM，摘要未说明依赖的预训练规模或下游监督条件；低信噪比、通道配置变化和个体差异可能使所选维度不稳定。一个可证伪的小实验是在固定预训练编码器和 Cross-subject 划分下，以匹配的可训练参数预算比较投影矩阵 LoRA 与 SDLoRA，并检查多次运行的稳定性。已有 EEG 相关工作尚未检索确认。

    阅读价值：该研究通过经验比较与理论分析区分 SSM 模块和线性投影矩阵的微调适用性，为复现 Mamba 类模型的 PEFT 提供了具体切入点，但实验协议与性能增益尚待全文核对。

7月10日周三
  1. OpenReview · State space models78

    MambaByte：无分词的选择性状态空间模型

    基于摘要分析。MambaByte 研究直接从原始字节学习的 token-free 语言建模：去除子词分词的归纳偏置，却也使序列显著变长。其核心贡献是将 Mamba 状态空间模型（SSM）适配为在字节序列上自回归训练的语言模型，并设计结合 tokenized drafting 与 byte-level verification 的推测解码方案。 机制上，摘要将标准自回归 Transformer 随序列长度增长的有效内存需求，与 Mamba 的固定大小记忆状态和高效解码进行对比。MambaByte 利用后者应对字节级长序列；解码阶段由分词模型生成草稿，再进行字节级验证。具体状态更新、训练损失、草稿模型配置与验证规则尚未验证。 作者报告，在语言建模任务上，MambaByte 可与先进的子词 Transformer 竞争，部分比较中甚至表现更好，同时保留 token-free 模型对噪声的鲁棒性。作者报告，相对于标准 MambaByte 实现，其推测解码方案实现 2.6× 推理加速，解码效率接近子词 Mamba。摘要未提供数据集、模型规模、性能指标、硬件、批量大小及序列长度，因此这些效果与速度结论的适用范围，以及实验协议、消融及统计信息尚未验证。 平台推测（待验证）：迁移假设是，固定大小状态的序列处理机制可能缓解长时程 EEG 建模的计算与内存压力，但原任务依赖离散字节及自回归监督，并不等价于连续、多通道 EEG。可考察复用 SSM 序列模块，输入表示、通道融合与任务输出需改造；字节级验证方案不能直接照搬。低信噪比、跨被试差异、通道变化与小数据训练可能削弱收益。一个可证伪的小实验是在同一 EEG 数据划分与匹配训练预算下，对比 SSM 与 Transformer 随输入时长变化的任务性能、峰值内存及推理耗时；仅降低资源消耗不能证明解码效果改善。相关 EEG 工作尚未检索确认。

    阅读价值：值得阅读其以固定大小状态处理长字节序列、并结合 tokenized drafting 与 byte-level verification 加速解码的机制，但语言建模效果与效率结论仍需核对全文实验协议。

6月21日周五
  1. OpenReview · Representation learning72

    迈向高效的大规模语言-3D 表征学习

    基于摘要分析。该研究探索如何高效学习大规模 3D 对象与语言之间的跨模态表征，提出 MaskCL3D，结合 3D 点云、语言描述和多视角图像上的对比学习与掩码重建，并构建覆盖多类对象及描述的语言-3D 数据集。 机制上，对比学习用于跨模态表征学习，掩码重建提供补充学习信号；但摘要未说明具体对齐对象、掩码施加位置、重建目标、损失组合及推理流程，不能据此确定效率提升来自何种设计。其贡献同时涉及训练方法和数据资源，阅读全文时需核对两者的独立作用，以及训练与测试效率的衡量方式。 作者报告，在其评估的零样本分类和检索任务中，使用新数据集训练的模型优于使用其他数据集训练的模型，MaskCL3D 与新数据集的组合相较现有基线达到最先进性能；作者还报告，表征分析显示语言和 3D 表征包含丰富语义信息。摘要未提供数据集名称、规模、划分、基线、具体指标或数值，因此这些结论目前只能保留为作者的定性报告，实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 与文本描述或刺激图像存在可靠配对，可假设跨模态对比学习与掩码重建的组合有助于学习语义相关表征，但 3D 对象上的结果不等于 EEG/BCI 效果。可复用的是学习目标的组合思路，需改造点云编码与重建模块以适应 EEG 时序和通道结构；低信噪比、跨被试差异及小规模配对数据可能导致模型学习刺激或被试特征，而非目标语义。一个可检验的小实验是在固定跨被试划分和相同数据预算下，比较仅对比学习与加入 EEG 掩码重建的模型，检查跨模态检索表现是否稳定改善。相关 EEG 工作尚未检索确认；代码、数据可用性及完整复现条件也尚未验证。

    阅读价值：值得核对 MaskCL3D 如何联合对比学习与掩码重建，以及方法改进和新数据集分别对零样本分类、检索及计算效率的贡献；摘要尚不足以分离这些因素。

1月1日周一
  1. OpenReview · State space models75

    Coupled Mamba：通过耦合状态空间模型增强多模态融合

    基于摘要分析。该研究针对多模态融合中复杂的模态内与模态间关联，提出 Coupled SSM，并构建 Coupled Mamba，在保留模态内状态演化过程独立性的同时耦合不同模态的状态链，试图兼顾跨模态交互建模与硬件感知并行计算。 核心机制是跨模态隐状态转移：当前状态依赖本模态状态链及相邻状态链在前一时间步的状态。为适配硬件感知并行设计，作者通过引入历史状态、推导状态方程得到全局卷积核。其可核对的机制特点是将模态交互引入状态演化过程；具体耦合拓扑、参数化方式、训练目标及并行实现细节尚未验证。 作者报告，在 CMU-MOSEI、CH-SIMS、CH-SIMSV2 的多域输入实验中，相较摘要所称的当前先进方法，三个数据集的 F1-Score 分别提高 0.4%、0.9% 和 2.3%；摘要未明确这些百分比表示相对增幅还是百分点差值，因此不能转换解读。作者还报告推理速度提升 49%、GPU 显存节省 83.7%，但对应基线、硬件、输入规模及测量条件尚未验证。数据划分、实验协议、消融及统计信息均需结合全文核对。 平台推测（待验证）：该机制可能适用于具有时间对应关系的 EEG 与其他模态序列融合，但原任务结果不等于 BCI 有效。可复用的是跨模态状态耦合思路；需改造输入编码、采样率对齐和缺失模态处理。EEG 低信噪比、跨被试差异及小数据条件可能使耦合传播噪声或增加过拟合风险。一个可检验的小实验是在同一同步多模态数据集与相同跨被试划分下，对比独立状态链、简单后期融合与耦合状态链，并检验单模态受噪声污染时的性能变化。相关 EEG 工作尚未检索确认。

    阅读价值：值得核对其跨模态状态耦合与硬件并行实现：摘要给出了具体的状态交互机制及效果、效率结果，但比较基线与评估协议仍需全文验证。

  2. OpenReview · EEG77

    利用 EEGformer 降低可穿戴癫痫发作检测的误报：面向 MCU 的紧凑 Transformer 模型

    基于摘要分析。研究针对可穿戴设备长期连续监测 EEG 时的癫痫发作自动检测问题，提出紧凑 Transformer 模型 EEGformer，仅使用颞区通道，并通过面向硬件的设计探索兼顾检测延迟、误报率及低功耗 MCU 部署需求。 技术机制：摘要将 Transformer 用于无需手工特征提取的端到端时间序列处理，核心贡献在于将少通道采集条件与端侧计算约束纳入模型设计。具体网络结构、输入窗口、损失函数、训练策略及硬件优化方法尚未验证，不能据摘要判断性能收益分别来自模型设计、预处理还是检测后处理。 检测结果：作者报告，在 CHB-MIT 数据集上，相较于面向颞区采集的现有最先进模型，发作起始检测延迟降低 20%，同时达到 73% 的癫痫发作检测概率和每小时 0.15 次误报（FP/h）。摘要未给出对照模型名称、绝对延迟、被试内或跨被试协议及数据划分，因此这些结果应限定于作者所用评估条件。作者另报告，在一个新的、具有挑战性的头皮 EEG 数据集上，检测到 88% 的标注发作事件，误报率为 0.45 FP/h；该数据集名称、被试规模和评估划分尚未验证，两组结果不能直接比较。 部署结果：作者在单核 Apollo4 MCU 以及并行 GAP8、GAP9 MCU 上评估部署，报告最节能的 GAP9 实现每次推理耗时 13.7 ms、能耗 0.31 mJ。作者据此认为模型可支持少通道、具有多日续航的可穿戴检测系统；但单次推理指标不等于整机续航实测，推理频率、采集与通信功耗及电池条件仍需核对。 复现重点是确认颞区通道配置、连续记录的训练与测试划分、发作事件匹配规则、误报统计时长，以及检测阈值对检出概率、误报率和延迟的影响。实验协议、消融及统计信息尚未验证，代码与部署资源的可用性也尚未确认。该研究属于 EEG 临床监测算法与端侧部署研究，摘要中的检测结果不应直接视为临床有效性验证。

    阅读价值：值得阅读的具体原因是，作者将颞区少通道 EEG 癫痫发作检测的误报率、检测延迟与 MCU 推理能耗联合评估，为可穿戴端侧模型的设计提供了可核对的参考，但数据划分和检测协议仍需全文验证。

  3. OpenReview · State space models72

    Event USKT：用于事件相机知识迁移的 U 形状态空间模型

    基于摘要分析。该研究针对事件相机数据有限、难以充分利用已有 RGB 预训练模型的问题，提出 U 形状态空间模型知识迁移框架 USKT。其核心贡献是生成与 RGB 帧兼容的输入，使事件数据能够复用 RGB 预训练模型，并引入采用共享权重策略的 Bidirectional Reverse State Space Model（BiR-SSM）。 机制上，摘要将 USKT 描述为 Event-to-RGB 知识迁移框架：通过输入兼容化连接事件数据与 RGB 模型，而非仅依赖事件数据训练新模型。BiR-SSM 与常规双向扫描机制的区别在于共享权重；作者认为该设计有助于高效建模并节省计算资源。具体事件表示、U 形结构、反向扫描方式、损失函数、冻结或调优的参数范围及推理成本尚未验证。 结果方面，作者报告，使用 ResNet50 作为骨干时，在 DVS128 Gesture、N-Caltech101 和 CIFAR-10-DVS 上的模型性能分别提升 0.95%、3.57% 和 2.9%。摘要未明确这些提升对应的指标、比较基线、数据划分，以及百分比是否表示相对增幅，因此不能将其改写为 Accuracy 的百分点提升，也不能跨数据集直接比较。实验协议、消融及统计信息尚未验证。材料称代码将在论文被接收后公开，当前代码可用性及接收状态均尚未验证。 平台推测（待验证）：可迁移假设是，输入兼容化与共享权重双向建模可能帮助数据有限的 EEG 任务复用预训练表示。但事件视觉数据与 EEG 的通道语义、时间结构和噪声特征不同，RGB 输入兼容不等于保留 EEG 判别信息。可考察状态空间建模及参数共享模块，输入映射则需针对 EEG 改造；低信噪比、跨被试差异、通道布局变化与小样本训练可能使映射丢失有效信息或过拟合。一个可证伪的小实验是在固定跨被试划分、相同预训练骨干和调优预算下，对比简单 EEG 输入映射与 USKT 式映射，并以取消双向权重共享作为对照，检查性能与计算成本是否同时改善。相关 EEG 工作尚未检索确认。

    阅读价值：值得核对 USKT 如何将事件数据转换为 RGB 预训练模型可用的输入，以及 BiR-SSM 的共享权重机制能否在减少参数调优与计算开销的同时保留任务信息；其 EEG 迁移价值尚未验证。

  4. OpenReview · State space models79

    VMamba：视觉状态空间模型

    基于摘要分析。本文研究如何构建计算高效的视觉网络，将状态空间语言模型 Mamba 适配为具有线性时间复杂度的视觉骨干 VMamba，核心贡献是用 2D Selective Scan（SS2D）处理二维视觉数据与一维选择性扫描之间的结构差异。 技术机制：VMamba 由 Visual State-Space（VSS）块堆叠构成，SS2D 沿四条扫描路径遍历二维数据，以收集不同来源和视角的上下文信息。作者据此构建一系列 VMamba 架构，并通过架构与实现层面的改进加速。摘要未给出具体扫描方向、状态更新公式、损失、训练配置及各加速措施，尚不能核对其计算开销与性能收益的来源。 结果与复现：作者报告，VMamba 在多种视觉感知任务上表现良好，相较现有基准模型具有更优的输入规模扩展效率。摘要未列出任务、数据集、指标、数值或对照配置，因此不能据此判断优势幅度，也不能将线性时间复杂度直接等同于实际运行速度。实验协议、消融及统计信息尚未验证。材料提供了源码仓库，但实现与论文版本的对应关系及完整复现条件仍需核对。 平台推测（待验证）：迁移假设是将 EEG 的时间与通道，或时频表示，组织为二维输入，借用多路径选择性扫描建模上下文。原方法依赖二维结构，预训练数据规模与监督设置在摘要中未说明；EEG 的通道排列并不天然等同于图像邻接关系，因此可考察 SS2D 与 VSS 模块，但需改造输入编码、通道拓扑和任务输出。低信噪比、跨被试差异、缺失通道及小数据可能使扫描路径引入不稳定依赖或过拟合。一个可证伪的小实验是在固定 EEG 任务、训练预算与数据划分下，对比二维多路径扫描、仅时间扫描及常规基线，并扰动通道顺序，检验收益是否依赖人为排列；这不是论文已验证的结果，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读其以四条扫描路径将一维选择性扫描适配到二维视觉数据的机制，以及输入规模扩展效率的评估；该机制对 EEG 的适用性尚未验证。

  5. OpenReview · State space models70

    用于图像去模糊的高效视觉状态空间模型

    基于摘要分析。本文针对图像去模糊中长程依赖建模与高分辨率计算成本之间的矛盾，提出高效视觉状态空间模型 EVSSM，以状态空间模型（SSMs）提取非局部信息，并通过视觉扫描模块降低多固定方向扫描带来的计算开销。 核心机制是：在各个基于 SSM 的模块之前施加不同几何变换，以捕获有用的非局部信息。摘要将其与采用多个固定方向扫描的既有方法对照，强调扫描方式的效率改进；具体变换类型、扫描顺序、网络结构、损失函数及训练配置尚未验证。作者以 Transformer 模型计算复杂度随图像分辨率呈二次增长作为研究动机，但摘要没有给出 EVSSM 的复杂度公式或实测资源消耗。 作者报告，EVSSM 在图像去模糊基准数据集和真实拍摄图像上，相较现有先进方法表现良好。摘要未列出数据集名称、划分、对照方法或定量指标，因此尚不能判断性能增益、效率收益及二者的权衡；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若将 EEG 表示为通道×时间或时频特征，SSM 的序列建模和扫描组织方式可能用于捕获较长时间范围的依赖。但原方法依赖图像空间结构，其几何变换不能直接视为 EEG 的有效变换：通道排列具有电极拓扑意义，时间方向也有特定语义。可复用候选是 SSM 建模与扫描组织思路，需改造的是输入表示及变换规则；低信噪比、跨被试差异、通道缺失和小数据训练均可能使收益消失。可检验的小实验是在固定数据划分和训练预算下，对照单方向扫描、多个固定方向扫描与保留电极拓扑的变换方案，分别报告被试内及跨被试性能、推理耗时和显存占用。该假设并非本文已验证的 EEG 结果，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对几何变换驱动的视觉扫描如何兼顾非局部建模与计算效率，但摘要未提供定量性能或复杂度数据，其优势及向 EEG 的迁移价值尚未验证。

  6. OpenReview · State space models78

    VMamba：视觉状态空间模型

    基于摘要分析。本文研究如何构建计算高效的视觉网络，将状态空间语言模型 Mamba 迁移为具有线性时间复杂度的视觉骨干 VMamba，核心贡献是通过 2D Selective Scan（SS2D）适配二维视觉数据的结构。 机制上，VMamba 由 Visual State-Space（VSS）块堆叠构成，其中 SS2D 沿四条扫描路径遍历，以连接一维选择性扫描的有序处理方式与二维视觉数据的非序列结构，从不同方向汇集上下文信息。作者据此构建了一组 VMamba 架构，并通过架构与实现层面的改进加速。摘要未展开具体扫描顺序、状态更新形式、训练目标或加速实现，相关细节尚未验证。 作者报告，VMamba 在多种视觉感知任务中展现出良好性能，相较既有基准模型具有输入规模扩展效率优势。摘要未提供任务名称、数据集、数据划分、对照模型、数值指标及复杂度测量条件，因此不能据此量化性能提升，或将线性复杂度直接等同于实际运行速度优势。实验协议、消融及统计信息尚未验证。材料提供了公开代码仓库，复现仍需核对具体配置、训练预算与软硬件环境。 平台推测（待验证）：若 EEG 被表示为通道×时间或时频二维结构，SS2D 的多方向上下文聚合可能用于建模长程依赖；这一假设依赖二维排列能够保留有意义的通道或时频关系，视觉领域结果不等于 EEG/BCI 效果。可考察复用 VSS 与扫描机制，但需改造输入编码、通道排列和任务输出。低信噪比、不规则电极布局、跨被试差异及小数据训练可能削弱收益，预训练与监督规模要求也尚未验证。一个可检验的小实验是在固定 EEG 数据划分、训练预算和相近模型容量下，对照多方向 SS2D 与单方向扫描，并扰动通道排列，观察任务指标及计算成本是否稳定改善。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读其以四条扫描路径将一维选择性扫描适配到二维视觉数据的机制，并核对输入规模扩展效率的对照实验；该机制对 EEG 的适用性尚未验证。

  7. OpenReview · State space models72

    VmambaIR：用于图像恢复的视觉状态空间模型

    基于摘要分析。VmambaIR 面向从退化输入恢复高质量图像的问题，将 State Space Models（SSMs）引入图像恢复，旨在兼顾长程依赖建模与计算效率。其核心贡献是采用 Unet 架构堆叠 Omni Selective Scan（OSS）块，以多方向扫描缓解 SSM 的单向建模限制。 机制方面，每个 OSS 块由 OSS 模块与 Efficient Feed-Forward Network（EFFN）组成。作者提出的 omni selective scan 对六个方向的图像信息流进行建模，并将 SSM 的线性复杂度作为相对于 Transformer 二次复杂度的效率优势。摘要未说明六个方向的具体定义、扫描与融合方式、EFFN 结构、损失函数及训练策略，这些细节尚未验证。 作者报告，在 image deraining、single image super-resolution 和 real-world image super-resolution 等任务中，VmambaIR 达到 SOTA，同时使用更少的计算资源与参数。摘要未提供数据集、数据划分、对照模型、评价指标或资源测量条件，因此该结论目前只能作为作者报告，不能据此量化优势或比较不同任务的性能。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：该方法原本依赖具有空间邻接关系的图像数据；多方向扫描与高效长程建模可能为 EEG 去噪提供机制参考，但原领域有效不等于 BCI 有效。可考虑复用 SSM 与扫描模块，需改造时间—通道表示、扫描顺序及训练目标，并核对是否依赖成对退化／参考信号监督。低信噪比、跨被试差异、不规则通道布局和小数据可能削弱效果，恢复过程也可能损伤 ERP 等任务相关成分。一个可证伪的小实验是在固定被试划分与噪声条件下，比较单向扫描和多方向扫描的 EEG 去噪误差、ERP 波形保真度及资源开销，检查效率收益是否伴随信号失真。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读其 Omni Selective Scan 如何以线性复杂度缓解 SSM 的单向建模限制，并核对图像恢复效果与资源开销的对照证据；其对 EEG 的适用性尚未验证。

  8. OpenReview · State space models78

    MambaByte：无 token 的选择性状态空间模型

    基于摘要分析。MambaByte 研究直接从原始字节学习的无 token 语言建模，旨在避免子词分词的归纳偏置，同时缓解字节序列更长带来的计算与内存压力。其核心贡献是将 Mamba 状态空间模型（SSM）用于字节序列的自回归训练，并提出结合 tokenized drafting 与 byte-level verification 的推测解码适配方案。 机制上，摘要将标准自回归 Transformer 随序列长度增长的内存需求，与 Mamba 的固定大小记忆状态及高效解码进行对照。MambaByte 的建模单位是字节，而非子词；推测解码则用 token 化序列生成草稿，再在字节层面验证。具体状态更新、选择性机制、训练损失及草稿验证流程尚未验证。 作者报告，MambaByte 在语言建模任务上可与先进的子词 Transformer 竞争，部分表现更优，并保留无 token 模型的噪声鲁棒性优势。作者还报告，其推测解码适配方案相较标准 MambaByte 实现获得 2.6 倍推理加速，解码效率与子词 Mamba 相近。摘要未提供对应数据集、模型规模、任务指标、硬件、生成长度及对照配置，因此这些结果只能在作者所述比较范围内理解，实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其固定大小状态机制可能对应 EEG 长时序处理中随窗口长度增长的资源瓶颈，但字节语言建模依赖离散序列与自回归监督，不能直接等同于连续、多通道 EEG 建模。可考察 SSM 主干的复用，输入编码与训练目标需改造；tokenized drafting 的优势是否成立则取决于 EEG 是否存在合适的离散草稿表示。低信噪比、跨被试分布差异、通道变化及小数据可能削弱效果。一个可检验的小实验是在固定数据划分和参数预算下，比较 SSM 与 Transformer 在不同 EEG 窗口长度上的任务指标、峰值内存及推理延迟。上述仅为迁移假设，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读其以固定大小状态处理长字节序列的机制，以及结合 tokenized drafting 与 byte-level verification 的推测解码方案；摘要中的语言建模与效率结论仍需结合完整实验协议核对。

  9. OpenReview · State space models73

    SMamba：通过可伸缩状态空间模型实现任意尺度超分辨率

    基于摘要分析。研究针对任意尺度超分辨率（ASSR）：用单一模型将低分辨率图像重建为任意目标尺度的高分辨率图像。作者提出正文称为 S³Mamba 的方法，通过 Scalable State Space Model（SSSM）构建可随尺度调整的连续表示空间，并结合尺度感知自注意力提取不同尺度下的重要全局特征。 机制上，摘要将隐式神经表示（INR）描述为连接坐标与像素值、重建连续信号的途径。SSSM 在离散化过程中调制状态转移矩阵及步长采样矩阵，作者称由此实现具有线性计算复杂度的连续尺度建模。尺度感知自注意力用于补充不同尺度下的全局特征感知；具体调制公式、尺度条件的注入方式、训练损失，以及线性复杂度是否涵盖完整网络，尚未验证。 作者报告，在合成与真实场景基准上的实验取得了最先进的性能及任意超分辨率尺度下的泛化能力。摘要未提供基准名称、训练与测试尺度划分、对照方法、指标或数值，因而尚不能核对其提升幅度，或区分已见尺度与未见尺度的泛化。实验协议、消融及统计信息尚未验证；代码与复现条件亦未确认。 平台推测（待验证）：假设该尺度条件化的连续表示机制可用于 EEG 时间轴重采样或缺失采样点重建，其潜在对应问题是不同采样率下的信号表示一致性，而不是直接提升 BCI 分类效果。可考虑复用尺度调制的状态空间模块，但需将二维图像坐标改为时间坐标，并处理通道结构、频带约束与抗混叠；原任务依赖低分辨率输入及高分辨率重建目标，迁移所需监督和数据规模尚不明确。低信噪比、小样本及跨被试差异可能使模型重建伪波形或失真频谱。一个可证伪的小实验是在按被试隔离的数据上，对高采样率 EEG 进行抗混叠降采样，比较该机制与常规插值在未见采样比例下的波形、频谱及下游任务表现。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其通过离散化过程中的状态转移与步长采样调制实现连续尺度建模的机制，尤其是线性复杂度的适用范围及尺度外泛化证据；其对 EEG 的价值尚未验证。

9月22日周五
  1. OpenReview · Representation learning74

    NAR-Former V2：重新审视用于通用神经网络表示学习的 Transformer

    基于摘要分析。该研究关注神经网络架构本身的表示学习，目标是在不实际训练或部署候选网络的情况下预测其属性，辅助网络设计与部署。作者提出 NAR-Former V2，以修改后的 Transformer 同时表示单元结构网络与完整网络。 方法先将网络视为图，通过 tokenizer 将其编码为序列，再将 GNN 的归纳表示学习能力引入 Transformer，以改善对未见架构的泛化；此外还提出若干面向图结构表示的修改。摘要未说明具体编码规则、归纳机制的实现、损失函数及这些修改的组成，不能据此判断其如何保留拓扑关系或处理不同规模的网络。 结果方面，作者报告：在 NNLQP 数据集的完整网络编码与延迟预测任务上，该方法明显优于 GNN 方法 NNLP；在 NASBench101 与 NASBench201 的单元结构网络准确率预测任务上，与其他先进方法取得高度可比的表现。摘要未提供具体分数、指标、划分或目标硬件条件，实验协议、消融及统计信息尚未验证。作者提供了代码链接，但代码可运行性与复现条件尚未核验。 平台推测（待验证）：迁移假设是利用架构表示预测器降低 EEG 候选网络的逐一训练与部署评估成本，而非直接学习 EEG 信号。可复用部分是架构图编码与属性预测框架；需核对 tokenizer 对 EEG 常用算子的支持，并收集任务特定的架构—性能或硬件延迟标签。原方法依赖架构图及其目标属性监督，所需数据规模尚未验证。EEG 的低信噪比、被试和通道差异，以及小样本评估波动，可能使准确率标签不稳定，削弱架构层面的泛化。一个可证伪的小实验是在固定 EEG 数据划分与训练预算下，为一组候选架构采集性能标签，按架构留出测试，与 GNN 预测器比较误差及排序一致性；这属于迁移验证建议，不是论文已完成的实验。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读其将 GNN 的归纳表示学习能力融入 Transformer、统一处理单元结构与完整网络的机制，但用于 EEG 网络设计的价值尚未验证。