利用 Wasserstein 空间中的生成模型进行黑箱函数全局优化
Global Optimisation of Black-Box Functions with Generative Models in the Wasserstein Space
基于摘要分析。本文研究随机黑箱模拟器的无梯度全局优化,重点应对随机响应与较高维参数空间带来的搜索困难。核心贡献是利用深度生成代理模型刻画黑箱在整个参数空间中的响应,并基于 Wasserstein 距离构造名为 Wasserstein uncertainty 的不确定性估计,以指导优化。 机制上,生成代理用于建模黑箱响应的随机性,而非仅给出单一响应预测;所提出的不确定性被用于一种 posterior agnostic 的无梯度优化算法,目标是在整个参数空间上最小化 regret。摘要未交代 Wasserstein 距离具体比较哪些分布、如何估计,以及生成模型的训练目标和候选参数选择规则,这些细节尚未验证。 作者报告,在一系列测试中,该方法相较于采用 deep Gaussian process 代理的 efficient global optimisation 等先进方法,对黑箱函数形状及随机响应形态更稳健。摘要未提供测试函数、参数维度、评估预算、regret 定义或具体数值,因此不能据此判断优势幅度及其适用范围;实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 解码参数搜索可表示为带噪声的黑箱目标,例如不同训练随机种子下的验证性能,该机制可能用于处理评估波动并分配搜索预算。可复用的是生成代理与不确定性驱动的搜索框架,需改造的是目标定义、参数编码及符合被试内或跨被试协议的评估流程。低信噪比、小数据或被试、通道差异可能导致代理失配,使不确定性无法可靠指示搜索价值。一个可检验的小实验是固定 EEG 解码器、数据划分与评估预算,仅替换超参数搜索策略,比较最终验证性能及多次运行的稳定性,并用独立测试集核验;已有 EEG 相关工作尚未检索确认。
值得核对其基于 Wasserstein 距离的不确定性估计如何指导随机黑箱的无梯度搜索,尤其是相对 deep Gaussian process 代理的稳健性证据;其 EEG/BCI 适用性尚未验证。
来源:OpenReview · State space models · openreview.net