迈向设计合理的循环模型，第一部分：拓扑、输入注入与循环状态设计

基于摘要分析。本文研究循环语言模型如何通过跨逻辑深度复用物理 Transformer 块，在控制资源预算的条件下改善性能；核心贡献是分离循环位置、输入注入和循环状态组织三个设计轴，并检验相应设计原则能否迁移至 Mixture-of-Experts（MoE）模型。 方法上，作者在匹配参数规模、逻辑深度和训练 token 预算的条件下从头训练模型，再开展常驻参数与活跃参数匹配的 MoE 对照。作者报告，由前置模块、循环块和后置模块组成的夹层架构，持续改善上下文提取及推理密集型任务表现；输入注入主要改善知识检索与上下文利用，而随机初始化和分离的 H/L 循环状态带来的收益不一致或为负。摘要未展开 H/L 状态的具体定义及输入注入实现。 作者报告，在 730M 参数、336B 训练 token 的设置下，完整 Huginn 架构在全部十项基准上优于 Ouro。在摘要记为 8BA0.8B、展开后为 32BA3B，并以 500B token 训练的 MoE 设置下，Huginn 在覆盖知识、推理和代码的几乎所有基准上优于 Ouro，专家路由也更均衡。进一步在训练与推理 FLOPs 匹配的条件下，Huginn 风格模型相较于 112 层前馈 MoE 基线减少 75% 的常驻参数；作者报告其在 DROP、GSM8K 上更优，在 MATH500 上相当，其余基准仍具竞争力。这一参数节省结论不等于计算量同比下降。 当前证据限于语言模型，不能据此认定对 EEG 或 BCI 有效。全文中的模块定义、循环次数、各基准指标与具体分数、数据划分、消融及统计信息尚未验证；复现时还需核对常驻参数、活跃参数和 FLOPs 的计量口径，以及训练与推理预算的匹配方式。已有 EEG 相关工作尚未检索确认。