高阶与块对角线性递归网络中的状态混合改进

基于摘要分析。本文研究线性递归网络（LRNNs）和线性状态空间模型（SSMs）中，对角状态转移限制表达能力的问题，提出 H-LRU 与 BD-LRU，通过增强跨时间或跨通道的状态混合，在保持计算效率的同时提升序列建模能力。 H-LRU 将一阶递归推广至 m 阶，混合多个历史状态；BD-LRU 使用块对角结构，在各块内部进行稠密通道混合。两者分别对选择性门控实施逐通道、逐行 L1 归一化；作者称这有助于稳定训练并扩大窗口或块大小。作者还采用 parallel-scan 实现，以支持并行计算。 在压缩、选择性复制和关联回忆等合成序列基准中，作者报告 H-LRU 在压缩任务上参数效率最高，BD-LRU 的表现达到或超过 Mamba、DeltaNet 与 LSTM 基线。在 S₃–S₅ 置换复合任务中，作者报告 BD-LRU 以适中的块大小高效求解，并优于所比较的线性与非线性基线。作者另报告，在适中的递归阶数或块大小下，两种结构的吞吐量可与对角 LRNNs 保持竞争力。摘要未提供具体分数、参数预算、数据划分或硬件条件，实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其可迁移假设是，历史状态混合与块内潜在通道交互，可能改善 EEG 长序列中跨时间依赖和通道关联的表达。可复用部分为递归结构、门控归一化及并行计算；输入编码与通道分组需适配 EEG，潜在状态通道也不能直接等同于电极。低信噪比可能使历史混合累积噪声，通道差异和被试差异可能破坏分组假设，小数据还可能削弱额外表达能力的收益。一个可证伪的小实验是在固定 EEG 任务、被试内划分及匹配参数预算下，比较对角 LRU、H-LRU 与 BD-LRU 的任务指标、吞吐量及显存占用，并检查噪声扰动后的稳定性。该实验仅为迁移假设，相关 EEG 工作尚未检索确认。