跳到正文
OpenReview · State space models· Aryan Deshwal; Janardhan Rao Doppa·· 2021-01-01精选AI 评分75

结合潜在空间与结构化核的组合空间贝叶斯优化

Combining Latent Space and Structured Kernels for Bayesian Optimization over Combinatorial Spaces

AI 导读

基于摘要分析。本文研究序列、树和图等组合空间中、黑盒函数评估代价高昂的优化问题,例如依赖实体实验的药物分子优化,提出 LADDER,通过结构耦合核将深度生成模型学到的潜在表示与解码后的离散结构信息结合,用于改进贝叶斯优化(BO)的代理建模。 核心机制:已有潜在空间 BO 方法先用深度生成模型(DGM)学习结构的连续表示,在连续空间选择候选点,再将其解码为离散结构并评估目标函数。本文指出,仅依赖潜在表示的代理模型可能缺少逼近目标黑盒函数所需的归纳偏置。LADDER 的思路是在核中显式纳入解码结构的信息,而不是仅使用生成模型学到的表示。摘要未提供核的具体数学形式、生成模型训练方式或候选点优化细节。 结果与证据边界:作者报告,在所用真实世界基准实验中,LADDER 相比潜在空间 BO 方法有显著改进,并优于或接近所比较的先进方法。摘要未列出具体基准、评估预算、指标、数值和统计检验,因此不能据此量化收益或推广到其他搜索任务;实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 流程配置或通道组合能够表示为可解码的离散结构,且每次配置评估成本较高,这类结构耦合代理建模可能用于配置搜索,而非直接解码 EEG。可复用的是潜在空间与结构信息联合建模的思路;需要改造结构编码、解码约束及目标函数。其前提是存在可训练生成表示的候选结构集合,以及明确的结构相似性定义。低信噪比、跨被试差异和小数据条件可能使验证性能波动,导致代理模型拟合不稳定。一个可证伪的小实验是在固定数据划分、相同初始化与评估预算下,比较纯潜在空间核和结构耦合核的配置搜索结果,并在独立测试数据上检验收益。相关 EEG 工作尚未检索确认。

阅读价值

值得关注 LADDER 如何在贝叶斯优化代理模型中结合潜在表示与离散结构信息,以缓解生成模型表示与目标函数归纳偏置不匹配的问题,但其对 EEG/BCI 配置搜索的价值尚未验证。

来源:OpenReview · State space models · openreview.net