Mamba3D:通过状态空间模型增强 3D 点云分析的局部特征
Mamba3D: Enhancing Local Features for 3D Point Cloud Analysis via State Space Model
基于摘要分析。本文研究 3D 点云分析中 Transformer 的二次复杂度及直接采用 Mamba 时表现不理想的问题,提出面向点云学习的 Mamba3D,通过局部几何特征提取与双向状态空间建模结合局部、全局信息。 核心机制包括 Local Norm Pooling(LNP)模块,用于提取局部几何特征;以及 bidirectional SSM(bi-SSM),由沿 token 正向运行的 SSM 和在特征通道上运行的 backward SSM 组成。这里的“反向”涉及特征通道,不能仅据摘要将其解释为常规的序列反向扫描。LNP 的具体计算、点云序列化方式、通道扫描顺序及训练目标尚未验证。 作者报告,在 ScanObjectNN 分类任务上,从头训练的 overall accuracy 为 92.6%;在 ModelNet40 分类任务上,采用单模态预训练的 overall accuracy 为 95.1%。两项结果对应不同数据集与训练前提,不能直接比较。作者还报告,在有无预训练的多项任务中优于 Transformer 对照与同期工作,并声称取得多项 SoTA、保持线性复杂度。具体数据划分、预训练数据、基线配置、复杂度所对应的输入规模、实际运行效率、消融及统计信息尚未验证。摘要声明代码与权重已公开,但实现与结果可复现性尚未核验。 平台推测(待验证):可探索的机制假设是,以局部结构提取弥补 SSM 对邻域信息的建模不足,再用 token 与通道扫描汇聚信息。这一路径原本依赖点云几何邻域及特征表示;若用于 EEG,需要重新定义电极空间邻域、时间 token 与通道关系,而非直接复制点云处理。低信噪比、电极布局差异和小数据可能使局部聚合放大噪声,通道扫描也可能受排序影响。一个可证伪的小实验是在固定 Cross-subject 划分、相同训练数据与预算下,对比基础 SSM、加入电极邻域模块及再加入通道扫描的版本,并检验通道重排是否改变结论。该实验仅检验迁移假设,不代表原论文已验证 EEG 效果;相关 EEG 工作尚未检索确认。
值得核对 Mamba3D 如何通过 Local Norm Pooling 与 token/特征通道双向 SSM 补足点云局部几何建模,并验证其性能与线性复杂度主张;这些结果尚不构成 EEG/BCI 有效性的证据。
来源:OpenReview · State space models · openreview.net