Delta-SSM:面向高效序列建模的脉冲状态空间模型精确并行化
Delta-SSM: Exact parallelization of spiking State Space Models for Efficient Sequence Modeling
基于摘要分析。该研究针对状态空间模型(SSMs)在边缘硬件上的计算负担,以及现有脉冲 SSM 因时序递推动力学而难以并行训练的问题,提出基于 Mamba-2 的 Delta-SSM。核心贡献是构造具有精确时间并行表达的整数脉冲神经元,在保留原有脉冲模型动力学的前提下实现全并行训练。 机制上,Delta-SSM 通过减少跨时间的冗余操作降低计算成本,并支持事件驱动计算。摘要称,其自定义整数脉冲神经元的序列动力学可精确转化为时间并行形式,最终归结为激活量化,而非以近似动力学替代原模型。其区别于既有脉冲 SSM 的关键,是尝试同时保留稀疏事件计算与训练并行性;具体递推方程、量化规则及精确等价的成立条件尚未验证。 作者报告,在一系列音频与语言任务上,Delta-SSM 的计算成本约为原始模型的 45%,性能退化有限。摘要未明确各任务、数据集、数据划分、性能指标,以及“原始计算成本”的具体参照和计量方式,因此不能将该比例直接解读为实际延迟或能耗的同比改善。实验协议、消融及统计信息尚未验证,代码、权重与硬件部署条件也尚未验证。 平台推测(待验证):假设连续 EEG 可被转换为足够稀疏的事件表示,这种精确并行训练与事件驱动推理的结合可能缓解长序列建模和边缘部署的计算瓶颈。可考虑复用时间并行表达,改造输入编码与信号尺度校准;但低信噪比可能产生密集事件,量化也可能损失微弱判别信息,跨被试或通道变化及小数据训练可能进一步削弱收益。一个可证伪的小实验是在同一 EEG 任务、固定被试内划分与训练预算下,对照 Mamba-2 和 Delta-SSM,同时记录任务指标、事件稀疏度、计算量及实测延迟,检验效率收益是否以可接受的性能变化实现。已有 EEG 相关工作尚未检索确认,原领域结果不构成 BCI 有效性的证据。
值得核对其整数脉冲神经元如何实现精确时间并行,以及计算成本统计是否能对应实际硬件收益;摘要支持音频与语言任务上的效率研究价值,但 EEG/BCI 适用性尚未验证。
来源:OpenReview · State space models · openreview.net