跳到正文
OpenReview · State space models· Yang Li; Yu Shen; Wentao Zhang; Ce Zhang; Bin Cui·· 2023-03-01精选AI 评分77

VolcanoML:通过可扩展的搜索空间分解加速端到端 AutoML

VolcanoML: speeding up end-to-end AutoML via scalable search space decomposition

AI 导读

基于摘要分析。该研究面向端到端 AutoML 在大型、高维搜索空间中的可扩展性问题,提出 VolcanoML 框架,通过可组合的搜索空间分解构件及执行计划,组织特征工程、算法/模型选择与超参数调优的联合搜索。 核心机制是将较大的搜索空间拆解为较小空间,并允许用户利用基础构件,为具体 AutoML 问题组合执行计划。框架采用类似现代数据库系统的 Volcano-style 执行模型运行这些计划。其方法重点在于搜索空间的组织与执行,而非提出新的预测模型;具体分解算子、资源分配策略及执行接口尚未验证。 作者报告,评估显示 VolcanoML 提高了 AutoML 搜索空间分解的表达能力,并找到了比 auto-sklearn 等系统所用策略显著更高效的分解策略。摘要未给出数据集、计算预算、对照配置、效率指标或数值,因此不能据此量化加速幅度,也不能将搜索效率提升等同于预测性能提升。实验协议、消融及统计信息尚未验证。 平台推测(待验证):假设 EEG 解码流程可被明确表示为预处理、特征提取、分类器选择及超参数配置组成的搜索空间,该分解机制可能用于管理有限预算下的流水线搜索。可复用的是搜索空间分解与执行计划思想;需改造的是 EEG 专用算子、参数约束,以及适配跨被试或跨会话目标的验证协议。低信噪比与小样本可能使候选配置的验证结果不稳定,不同被试及通道设置也可能改变有效搜索空间。一个可检验的小实验是在固定 EEG 数据划分、候选算子和计算预算下,对比分解搜索与未分解搜索的验证性能、耗时及重复运行稳定性,并在独立测试集核验结果。该实验仅为迁移假设,已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其搜索空间分解构件与执行计划如何改善端到端 AutoML 的可扩展性,但摘要不足以判断相对 auto-sklearn 的效率收益及其对 EEG 流水线的适用性。

来源:OpenReview · State space models · openreview.net