基于结构化状态空间模型的扩散式符号音乐生成
Diffusion-based Symbolic Music Generation with Structured State Space Models
基于摘要分析。该研究针对符号音乐扩散生成中自注意力计算复杂度随序列长度呈二次增长、限制长序列扩展的问题,提出 Symbolic Music Diffusion with Mamba(SMDIM),结合结构化状态空间模型(SSMs)与 Mamba-FeedForward-Attention Block(MFA),兼顾全局上下文建模和局部音乐细节。 机制上,SSMs 用于高效建模全局上下文;MFA 将 Mamba 层的线性复杂度、FeedForward 层的非线性细化与自注意力的精细建模结合。作者报告整体架构达到近线性复杂度,但摘要未说明自注意力的作用范围、序列组织方式或复杂度推导,因此不能将这一结论直接归因于某种局部注意力设计。扩散目标、噪声过程、训练损失与采样设置尚未验证。 作者报告,在包含中国传统民间音乐集合 FolkDB 的多个数据集上,SMDIM 的生成质量与计算效率优于所比较的先进模型。摘要未提供其余数据集名称、划分、对照模型、质量指标或运行时间与显存数据,尚不能判断优势幅度及其随序列长度的变化。实验协议、消融及统计信息尚未验证;复现需核对符号音乐表示、模型配置、训练与采样预算及代码可用性。 平台推测(待验证):可迁移的假设是以状态空间建模承担长程依赖、以混合模块保留局部细节,而不是音乐生成结果本身。该路径可能对应长时段 EEG 建模中计算成本与短时波形细节之间的权衡,但音乐符号序列与连续多通道 EEG 的数据结构不同,需改造输入表示、通道交互及生成评价。低信噪比、跨被试差异与小数据可能使局部细节建模转而拟合伪迹或个体特征。一个可证伪的小实验是在固定 EEG 数据划分和训练预算下,对比 SSM-only、SSM 加 MFA 与 Transformer 的片段重建误差及不同序列长度下的运行时间、显存占用;这仅是机制验证,不构成 BCI 效果证据。已有 EEG 相关工作尚未检索确认。
来源:OpenReview · State space models · openreview.net