跳到正文
arXiv · 多模态与生成机制· Tommaso Ancilli; Thomas Wedenig; Henry Moss; Robert Peharz·· 4 天前精选AI 评分78

面向离散空间贝叶斯优化的采集函数引导生成

Acquisition Function-Guided Generation for Bayesian Optimization over Discrete Spaces

AI 导读

基于摘要分析。本文研究离散空间中的贝叶斯优化(BO),针对梯度不可得及有效解稀疏的问题,提出 acquisition function guided generation(AFGG):将预训练生成模型与直接定义在原始数据空间的代理模型结合,以采集函数引导候选生成。主要评估对象是分子优化,而非 EEG 或 BCI。 与在生成模型潜空间拟合代理模型的路线不同,AFGG 将代理模型保留在数据空间,便于纳入领域特定核等归纳偏置。方法不直接在离散设计空间最大化采集函数,而是从经采集函数倾斜的生成分布中采样候选;随后将该分布嵌入 diffusion bridge,得到平滑、经后验平均的采集函数,为采样提供可用梯度。作者分别以 categorical diffusion model 和 autoregressive normalizing flow 实现该框架。 作者报告,在一组分子基准上,扩散模型版本与领先 BO 方法表现相当,flow 版本在多数情况下优于所比较的当前先进方法,其余情况下仍具竞争力。摘要未给出基准名称、评价指标、优化预算、数值结果及预训练数据规模,不能据此量化优势或比较不同协议。实验协议、消融及统计信息尚未验证。摘要提供了实现地址,但代码内容与复现条件尚未核查。 平台推测(待验证):若将 EEG 通道子集等离散配置作为候选、以验证集解码表现作为昂贵目标,该框架可能用于约束下的配置搜索,而不是直接承担神经信号解码。可复用部分是数据空间代理模型与采集函数引导采样;需改造候选表示、合法性约束、生成模型及领域核。其适用性取决于是否有足够的有效配置数据支撑生成先验。EEG 低信噪比、跨被试差异、小数据及通道变化可能造成目标估计不稳定或先验失配。一个可证伪的小实验是:固定数据划分与目标评估预算,在 EEG 通道子集搜索中比较 AFGG、常规离散 BO 和随机搜索,并在独立留出数据上检验所选配置;这只是迁移假设,已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注其在原始离散数据空间保留领域核、同时通过生成模型与平滑采集函数获得采样梯度的机制;作者报告了分子基准上的竞争性结果,但具体比较协议及 BCI 适用性尚未验证。

来源:arXiv · 多模态与生成机制 · arxiv.org