COSMOS:用于长时域 PDE 预测的软机制混合与可验证路由
COSMOS: Soft Mechanism Mixtures with Verifiable Routing for Long-Horizon PDE Forecasting
基于摘要分析。COSMOS 针对多种物理过程并存时,单体神经算子与稀疏专家路由难以表达连续组合的问题,提出软机制混合神经算子,并构建具有已知轨迹混合权重的算子分裂组合基准,用于检验预测性能与路由解释。 核心机制:四个带有过程偏置的专家在每一步均保持激活,由学习得到的门控连续混合,再通过小型网络融合特征。专家共享粗粒度潜在网格,并以零初始化的全分辨率残差恢复瓶颈损失的细节。该设计以同时参与的专家替代稀疏 top-K 选择;具体损失、训练流程及网络规模尚未验证。 作者报告,在与按方程族调优的 FNO 比较、采用 20 步滚动预测的初始 3 个随机种子评估中,COSMOS 在 diffusion–reaction 上呈现收益,在 Navier–Stokes 上表现相当,在 shallow-water 上较弱;随后 11 个随机种子的审计表明 diffusion–reaction 收益不稳定,因此不能据此可靠宣称这些方程族上的精度优势。作者报告,均匀路由或移除专家混合会显著降低稳定状态下的滚动预测表现。 在带路由标签的组合基准上,作者报告,相同特征融合条件下,稠密软路由的误差比硬 top-1 路由低 2.2 倍;推理时使用生成器的真实混合权重 w*,滚动预测误差进一步降至 0.034。摘要未明确该误差的指标定义、归一化方式及完整评估协议,不能与其他任务分数直接比较。路由标签与专家预设机制并不对应,因此结果支持组合预测能力,而非机制身份解释;真实权重干预则提示学习门控仍有限制。 平台推测(待验证):若将软专家混合用于 EEG 时空预测,可复用连续门控与多专家融合,但 PDE 过程偏置、潜在网格和机制标签均需重新设计;EEG 的低信噪比、通道差异与小数据可能造成专家退化或门控不稳定。一个可证伪的小实验是在固定跨被试划分、相同融合模块及相近模型容量下,比较软路由、硬 top-1 与均匀路由,并用多随机种子检查预测误差收益是否稳定;这不等同于验证 EEG 生理机制。已有 EEG 相关工作尚未检索确认。完整数据划分、消融设置及统计信息尚未验证。
值得阅读的是作者通过多随机种子审计修正初步精度结论,并用已知混合权重区分软路由的组合预测价值与机制身份解释的局限。
来源:arXiv · 架构与算子 · arxiv.org