Mamba3D:通过状态空间模型增强 3D 点云分析的局部特征
Mamba3D: Enhancing Local Features for 3D Point Cloud Analysis via State Space Model
基于摘要分析。本文研究 3D 点云分析中 Transformer 的二次复杂度与直接采用 Mamba 时表征效果不理想的问题,提出面向点云学习的状态空间模型 Mamba3D,以增强局部几何特征提取并兼顾全局表征。原论文的主要对象是点云,而非 EEG 或 BCI。 机制上,Mamba3D 使用 Local Norm Pooling(LNP)模块提取局部几何特征;同时引入 bidirectional SSM(bi-SSM),包含沿 token 方向运行的前向 SSM,以及在特征通道上运行的反向 SSM。这里的“反向”不宜直接理解为对 token 序列进行逆序扫描。摘要未披露 LNP 的具体运算、点云序列化方式、训练损失及预训练目标,这些实现细节尚未验证。 作者报告,Mamba3D 在多个点云任务中优于 Transformer 对照及同期方法,并具有线性复杂度。在分类任务中,ScanObjectNN 从头训练的 overall accuracy 为 92.6%;ModelNet40 使用单模态预训练后的 overall accuracy 为 95.1%。两项结果对应不同数据集与训练条件,不能直接横向比较。摘要未给出具体数据划分、输入点数、对照配置、复杂度的计量对象及实际运行效率;实验协议、消融及统计信息尚未验证。作者提供了代码与权重地址,但其可用性及复现条件尚未核对。 平台推测(待验证):若将 EEG 电极空间邻域用于局部特征提取,并以时间 token 的 SSM 建模长时依赖,其“局部结构增强+线性复杂度全局建模”机制可能具有借鉴价值。可复用的是局部聚合与 SSM 建模思路;需改造点云几何输入、序列组织及特征通道处理,且电极通道不能直接等同于网络特征通道。低信噪比、跨被试差异、不同电极布局及小样本训练都可能削弱效果。一个可检验的小实验是在固定 EEG 数据划分、训练预算和输入条件下,对比基础 SSM 与加入电极邻域局部聚合的版本,分别核对被试内和跨被试分类表现。该迁移假设不构成已验证的 BCI 贡献,已有 EEG 相关工作尚未检索确认。
值得核对其 Local Norm Pooling 与 token/特征通道双向 SSM 如何改善点云局部与全局表征,以及线性复杂度下的分类表现;其对 EEG 的适用性尚未验证。
来源:OpenReview · State space models · openreview.net