Transformer 与递归神经网络之间的设计空间研究

基于摘要分析。本文研究递归神经网络（Recursive Neural Networks，RvNNs）与 Transformer 之间的结构联系，以 Continuous Recursive Neural Networks（CRvNN）和 Neural Data Routers（NDR）作为连接两类模型的“桥梁”，分析其设计空间、局限及未来研究方向。 核心机制是两条方向相反的结构调整路径：CRvNN 放宽传统 RvNN 在结构组合上的离散约束，形成类似 Transformer 的结构；NDR 则约束原始 Transformer，以引入更强的结构归纳偏置，从而接近 CRvNN。论文的主要贡献是形式化讨论这些联系，而非摘要中明确提出一个新的 EEG 或 BCI 模型。此处 RvNN 指递归神经网络，不应与循环神经网络混同。 作者报告，CRvNN 与 NDR 在算法任务及泛化方面表现较强，能够处理较简单 RvNN 和 Transformer 表现不佳的情形。但摘要未给出具体任务、数据集、训练规模、泛化划分或量化指标，因而不能据此比较性能差距或确认优势适用范围；实验协议、消融及统计信息尚未验证，结构约束的具体实现也需查阅全文。 平台推测（待验证）：若 EEG 任务确实依赖可组合的层级时间结构，这类结构归纳偏置可能具有研究价值，但原文研究对象是算法任务，不能直接外推为 EEG/BCI 有效性。当前材料尚不足以确定可复用模块及必要改造，低信噪比、跨被试差异和小数据条件下的适用性均待评估；相关 EEG 工作尚未检索确认。