加速函数空间 MCMC 的提议机制
Proposals which speed up function-space MCMC
基于摘要分析。本文研究贝叶斯逆问题中的函数空间 MCMC:已有方法可避免采样性能随离散维度增加而退化,但仍可能出现较长的自相关时间。作者提出两种复杂度递增的提议机制,利用数据所提供的信息往往集中于有限维子空间这一结构,通过调整提议尺度改善混合。 研究背景是带噪观测下的状态或参数反演。当正向算子具有平滑作用时,逆问题通常是不适定的,可通过先验进行正则化,常见选择为高斯先验。在后验相对于先验绝对连续等条件下,构造保持先验不变的提议,可使 Metropolis–Hastings 方法在函数空间上有良好定义,从而避免 PDE 网格细化带来的维度退化。不过,这并不保证快速去相关;摘要指出,当数据对部分参数约束较强时,后验中仍与先验一致的方向反而可能混合最慢。 两种方法分别采用高频的 characteristic function 截断,以及利用 Hessian 信息在低频与高频之间插值。后者与利用局部曲率信息的 RMHMC、stochastic Newton 存在相似之处,但摘要不足以核对具体提议公式、Hessian 近似方式与计算开销。作者报告以带噪观测下热方程和 Navier–Stokes 方程的贝叶斯反演进行数值演示;摘要未给出定量加速结果,实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 源成像被表述为具有平滑正向算子、函数空间先验及可计算似然的贝叶斯逆问题,这类提议预条件化可能有助于后验采样,而非直接提升 EEG 分类性能。可复用的是先验保持与子空间尺度调整思想,需改造观测模型、先验及曲率计算;低信噪比、通道稀疏和先验失配可能削弱收益。一个可检验的小实验是在固定模拟 EEG 源反演模型与噪声条件下,对比原始函数空间提议和两类调整提议在不同网格分辨率下的单位计算时间有效样本量及自相关时间。已有 EEG 相关工作尚未检索确认。
值得关注其如何在保持函数空间 MCMC 对离散维度稳定性的同时,通过频率截断与 Hessian 信息改善采样混合;具体加速幅度及额外计算成本尚未验证。
来源:OpenReview · State space models · openreview.net