面向高可压缩状态空间模型的 Hankel 奇异值正则化

基于摘要分析。本文研究以状态空间模型作为层的深度神经网络在训练后难以压缩的问题，提出对状态空间模型的 Hankel 奇异值之和施加正则化，以促进这些奇异值快速衰减，从而提高模型的可压缩性。 核心机制是将可压缩性要求引入训练，而不是仅在训练结束后处理模型。为使该正则化可扩展，作者利用其状态空间参数化中系统矩阵的特定块对角结构，设计了在训练迭代中高效计算 Hankel 奇异值的算法。摘要未提供正则化权重、具体压缩算法或计算复杂度，相关实现条件尚未验证。 作者报告，在 Long Range Arena 基准实验中，与标准状态空间层相比，正则化后的状态空间层可压缩性最高提高至 10 倍，同时保持较高 Accuracy。摘要未给出可压缩性的具体定义、各任务的 Accuracy、压缩前后模型规模及对照配置，因此不能将该结果直接解释为整体网络参数减少 10 倍或推理加速 10 倍。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 长序列模型采用兼容的块对角状态空间参数化，该训练期正则化可能用于检验时序表征与模型压缩之间的权衡。可复用部分是正则化思路及结构化奇异值计算；需适配 EEG 输入、通道组织与任务输出。低信噪比、小数据及跨被试差异可能使较弱但有判别力的动态成分在压缩中受损。一个小规模可证伪实验是在固定 Cross-subject 划分下，对相同状态空间模型比较有无该正则化，在统一压缩预算下报告 Accuracy、模型规模与推理延迟。此迁移依赖矩阵结构兼容，并不构成已验证的 EEG/BCI 效果；已有 EEG 相关工作尚未检索确认。