跳到正文
只看模型架构#消融分析
10月5日周一
  1. arXiv · 架构与算子83

    Poisson-GENERIC 神经算子：通过 Casimir 熵实现函数空间中的精确 Metriplectic 结构

    基于摘要分析。该研究针对热力学一致神经算子中，熵梯度投影可能破坏可逆算子 Jacobi 恒等式的问题，提出 Poisson-GENERIC：通过增广状态与 Casimir 熵直接满足 GENERIC 退化条件，而非依赖投影。其贡献是将可逆 Poisson 结构、不可逆耗散约束与离散热力学定律纳入神经算子建模。 核心机制：状态增广为 (u,s)，其中 s 为潜在熵密度，S=∫s 被构造为可逆算子 L 的 Casimir，因此 LδS/δz=0 恒成立。非线性输运采用兼容的 Lie-Poisson pencil αD+λ(uD+Du)，其他情形采用常数 Poisson Fourier multiplier。能量由固定机械二次项、学习得到的 gauge-free 势能与凸内能组成；摩擦算子 M=AAᵀ 逐点满足 MδE/δz=0，其 Onsager 奇偶结构允许扩散和阻尼，并排除输运。 作者报告，对任意参数，反对称性、正性、两项退化条件及 Jacobi 恒等式达到机器精度，其中 Lie-Poisson 项的 Jacobi 保证限定于已解析频带。作者还给出热传导与阻尼波的闭式摩擦算子，并在可检查的曲率条件下以第二定律约束物理能量；离散梯度积分器满足精确的离散第一、第二定律。上述理论条件及离散化细节需结合全文核对。 实验方面，作者报告在 1D、2D 的四类 PDE、三个骨干 FNO、Transolver、CNO 上，相对同骨干无约束基线赢得 72 次随机种子级比较中的 61 次；在热方程与 Burgers 上，耗散率与真实值的偏差不超过 13%，并在平流任务上不产生耗散。作者报告模型学到精确的输运与波动算子符号；常数 L 消融无法保留 Burgers 建模能力，学习熵的消融则在全部可逆—不可逆混合问题中注入能量。胜负判据、数据划分、误差指标、消融配置及统计信息尚未验证。 平台推测（待验证）：该结构更适合检验具有明确 PDE 与能量—熵定义的动力学代理模型；原领域结果不能直接视为 EEG/BCI 效果。对 EEG 的迁移尚缺明确物理状态及守恒、耗散对应关系，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其以 Casimir 熵替代投影来保持 Jacobi 恒等式的构造，以及同骨干对照中结构约束对输运与耗散学习的影响；具体离散实现和实验协议尚未验证。

  2. arXiv · 架构与算子80

    Green-Routed 神经算子：物理决定网络读取的位置

    基于摘要分析。该研究针对 PDE 中输运场负责选择读取坐标、而常规神经算子通常仅将其视为输入数值的机制错位，提出 Green-Routed Neural Operator（GRNO），用控制方程决定潜在特征的采样位置，以学习完整的有限时间更新。 核心机制是由无参数 equation adapter 计算诊断关系，构造以读取坐标为取值的 departure map；多尺度编码器—解码器结合中心读取与路由读取的潜在特征。其结构先验作用于特征读取位置，而非仅增加输运场输入，也不同于先直接平流输运物理状态、再学习剩余更新。具体方程适配、采样实现、网络配置及损失形式尚未验证。 作者报告：在五个二维或三维 PDE 系统、40 步自回归评估下，GRNO 在其中四个系统取得最低的平均最终相对 L² 误差，在 Keller-Segel 上仍有竞争力。固定权重的路由干预显示，四个系统对路由方向与空间对齐有较强依赖，Keller-Segel 的依赖较弱。作者还报告，在独立训练的消融中，GRNO 在全部五个系统上均优于仅将输运场作为输入特征、用学习位移替代方程指定路由、以及空间错位路由的变体，并显著优于直接平流输运物理状态后学习剩余更新的方案。摘要未提供具体误差数值；系统清单、数据划分、基线配置、统计信息及复现资源尚未验证。 平台推测（待验证）：该机制的复用依赖可计算的控制方程、输运场及空间坐标，不能直接等同于 EEG 电极间的信息传播。若用于具有明确空间动力学模型的 EEG 源空间预测，可能复用路由采样模块，但需改造方程适配与源空间表示；低信噪比、源定位误差、通道差异及小数据可能使路由先验失效。一个可证伪的小实验是在已知动力学的模拟源空间数据上，比较正确路由、错位路由与仅输入输运场的预测误差，并逐步增加观测噪声。该实验只能检验迁移假设，不构成真实 EEG 有效性的证据；已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的是将方程指定的读取坐标作为神经算子的结构先验，并通过固定权重路由干预与独立训练消融检验其作用；作者报告的长时域预测优势仍需结合全文协议核对。

10月3日周六
  1. arXiv · 架构与算子71

    用于分子图学习的变分量子注意力

    基于摘要分析。该研究探讨变分量子电路如何改变分子图中的注意力行为，提出边感知的变分量子注意力机制，使接收原子、邻居原子及连接键共同决定量子注意力状态。其贡献不仅是比较分子性质预测性能，还考察量子与经典注意力对分子结构的加权和归因差异。 机制与对照：QGAT 将变分量子电路用于分子图注意力参数化，并以 GATv2 为经典对照。摘要明确包含键信息，但具体特征编码、电路结构、测量方式、训练损失及计算资源尚未验证，不能据此判断其量子计算优势。 作者报告，在五项分子性质与生物活性预测任务上，QGAT 相对 GATv2 表现具有竞争力；在 BBBP 上，所评估的六种电路 ansatz 均获得改善。摘要未提供具体分数、数据划分及不确定性，因而不能量化提升或比较不同协议。作者报告，电路消融显示性能依赖电路设计。 在 Verubecestat 的 BACE1 抑制剂系列案例中，作者报告 QGAT 的 Spearman 相关系数高于 GATv2，并对若干符合已报告结构–活性关系（SARs）的结构变化赋予正向归因。这支持两种注意力机制在结构相关类似物上的预测与归因行为可能不同，但不等同于归因的因果有效性；作者也明确指出，跨化学系列和靶点的一致性仍需更广泛验证。实验协议、消融细节及统计信息尚未验证。 平台推测（待验证）：可迁移的假设是，将 EEG 通道图中接收节点、邻居节点及连接特征联合用于注意力评分，可能帮助研究空间关系加权。可复用的是边感知评分思路，需改造的是 EEG 节点特征、边定义和量子输入编码；低信噪比、跨被试连接变化、通道差异及小数据可能使其不稳定。小规模可证伪实验可在固定 EEG 图表示、数据划分与训练预算下，仅替换注意力评分器，与 GATv2 比较跨被试预测表现及重复运行稳定性。该建议不代表已证实的 BCI 效果，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的是其将量子注意力与匹配的经典评分器同时进行预测和结构归因比较，可用于核对注意力参数化如何改变图学习行为，但跨化学系列的稳定性及 EEG 迁移价值尚未验证。

  2. arXiv · 架构与算子74

    COSMOS：用于长时域 PDE 预测的软机制混合与可验证路由

    基于摘要分析。COSMOS 针对多种物理过程并存时，单体神经算子与稀疏专家路由难以表达连续组合的问题，提出软机制混合神经算子，并构建具有已知轨迹混合权重的算子分裂组合基准，用于检验预测性能与路由解释。 核心机制：四个带有过程偏置的专家在每一步均保持激活，由学习得到的门控连续混合，再通过小型网络融合特征。专家共享粗粒度潜在网格，并以零初始化的全分辨率残差恢复瓶颈损失的细节。该设计以同时参与的专家替代稀疏 top-K 选择；具体损失、训练流程及网络规模尚未验证。 作者报告，在与按方程族调优的 FNO 比较、采用 20 步滚动预测的初始 3 个随机种子评估中，COSMOS 在 diffusion–reaction 上呈现收益，在 Navier–Stokes 上表现相当，在 shallow-water 上较弱；随后 11 个随机种子的审计表明 diffusion–reaction 收益不稳定，因此不能据此可靠宣称这些方程族上的精度优势。作者报告，均匀路由或移除专家混合会显著降低稳定状态下的滚动预测表现。 在带路由标签的组合基准上，作者报告，相同特征融合条件下，稠密软路由的误差比硬 top-1 路由低 2.2 倍；推理时使用生成器的真实混合权重 w*，滚动预测误差进一步降至 0.034。摘要未明确该误差的指标定义、归一化方式及完整评估协议，不能与其他任务分数直接比较。路由标签与专家预设机制并不对应，因此结果支持组合预测能力，而非机制身份解释；真实权重干预则提示学习门控仍有限制。 平台推测（待验证）：若将软专家混合用于 EEG 时空预测，可复用连续门控与多专家融合，但 PDE 过程偏置、潜在网格和机制标签均需重新设计；EEG 的低信噪比、通道差异与小数据可能造成专家退化或门控不稳定。一个可证伪的小实验是在固定跨被试划分、相同融合模块及相近模型容量下，比较软路由、硬 top-1 与均匀路由，并用多随机种子检查预测误差收益是否稳定；这不等同于验证 EEG 生理机制。已有 EEG 相关工作尚未检索确认。完整数据划分、消融设置及统计信息尚未验证。

    阅读价值：值得阅读的是作者通过多随机种子审计修正初步精度结论，并用已知混合权重区分软路由的组合预测价值与机制身份解释的局限。