贝叶斯优化中模型不确定性的探索与利用
Exploring and Exploiting Model Uncertainty in Bayesian Optimization
基于摘要分析。本文研究奖励分布类型未知、且可能难以明确指定时的 Bayesian Optimization(BO)问题,提出 infinity-Gaussian Process(∞-GP)代理模型,并结合 Thompson Sampling,在奖励模型的分布空间中进行探索与利用。主要研究对象是通用黑盒优化,而非 EEG 解码或 BCI 系统。 机制上,∞-GP 采用以 Gaussian Process(GP)为基线的序贯空间 Dirichlet Process 混合,同时量化数值不确定性与模型不确定性,旨在适应非平稳、多模态或重尾等复杂奖励结构。与预先固定奖励分布假设的建模方式相比,其关键思路是将奖励分布本身的不确定性纳入代理模型。摘要未披露混合模型的具体构造、后验推断算法及计算开销。 理论方面,作者报告该模型能够逼近广泛的奖励分布,并达到近极小极大最优的后验收缩速率;相应分布类别、正则条件及速率表达式尚未验证。实证方面,作者报告其方法在包含高度非平稳与重尾奖励的多种场景下优于先进对照方法,但摘要未列出任务、基线、评估预算、指标或具体数值,实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 BCI 参数搜索能够表示为“候选配置—重复观测奖励”的黑盒优化问题,该机制可能用于处理跨试次波动或重尾反馈;这不等于已证实能改善 EEG 解码。可复用部分是代理模型与 Thompson Sampling,需改造部分是奖励定义、配置表示及随时间变化的观测协议。低信噪比、小样本和被试漂移可能使混合分布难以可靠估计,也需核对方法对非平稳性的具体假设。一个可证伪的小实验是在固定被试内数据划分和相同搜索预算下,以 EEG 解码验证表现为奖励,对比 ∞-GP 与常规 GP-BO 的搜索效率及重复运行稳定性,并用独立测试集评估选定配置。相关 EEG 工作尚未检索确认。
值得关注其将奖励模型不确定性与数值不确定性分开建模的机制及后验收缩理论,但摘要未提供具体实验协议,尚不能据此判断其在 BCI 优化任务中的有效性。
来源:OpenReview · State space models · openreview.net