MambaMixer:具有 token 与通道双重选择机制的高效选择性状态空间模型
MambaMixer: Efficient Selective State Space Models with Dual Token and Channel Selection
基于摘要分析。MambaMixer 面向图像与多变量时间序列建模,试图兼顾数据依赖性、维度内与维度间交互,以及长序列计算效率。其核心贡献是在选择性状态空间模型中引入 token 与通道双重选择机制,并据此构建视觉架构 Vision MambaMixer(ViM2)和时间序列架构 Time Series MambaMixer(TSM2);原研究并非 EEG 或 BCI 验证。 机制上,Selective Token and Channel Mixer 使用数据依赖权重,分别沿 token 和通道进行选择性混合;不同 mixer 通过加权平均机制连接,使层能够直接访问早期特征。摘要将其动机定位为缓解注意力随输入规模呈二次增长的时间与空间开销,以及部分既有架构数据无关或维度间交互受限的问题,但未提供足以核对整体复杂度的实现细节。 作者报告,在 ImageNet 分类、目标检测和语义分割任务中,ViM2 与成熟视觉模型表现相当,并优于所比较的 SSM 视觉模型;在时间序列预测中,作者报告 TSM2 相对所比较的先进方法取得较好表现,同时显著改善计算成本。摘要未给出具体指标、预测数据集、数据划分、对照配置或计算成本测量条件,因此不能据此量化收益或外推至其他协议。实验协议、消融及统计信息尚未验证。 平台推测(待验证):若将 EEG 时间片视为 token、电极信号视为通道,双重选择机制可能用于建模时间依赖与跨电极关系。可复用候选是选择性混合模块与早期特征连接机制;需改造 EEG 输入表示,并核对通道混合是否依赖固定电极顺序与数量。原方法面向结构化多维输入,其训练监督方式与所需数据规模尚未验证。低信噪比可能使选择机制追随伪迹,跨被试差异、通道缺失和小样本训练也可能削弱收益。一个可证伪的小实验是在固定 EEG 数据集、相同跨被试划分和训练预算下,对比双重选择与仅 token 选择版本,报告同一任务指标、推理成本及通道扰动后的性能变化。已有相关 EEG 工作尚未检索确认。
值得核对双重 token/通道选择与早期特征加权连接的具体实现及消融,以评估其多变量序列建模收益和计算成本;摘要尚不能支持其对 EEG 或 BCI 有效的结论。
来源:OpenReview · State space models · openreview.net