跳到正文
OpenReview · State space models· Wu Sun; Hui Li; Panfeng Chen; Mei Chen; Yanhao Wang·· 2026-02-24精选AI 评分73

面向算法选择与超参数联合优化的搜索空间剪枝两阶段框架

A two-stage framework with search space pruning for combined algorithm selection and hyperparameter optimization

AI 导读

基于摘要分析。本文研究 AutoML 中的算法选择与超参数联合优化(CASH),提出 TS-CASH 两阶段框架,通过缩减数据上的低成本评估与超参数剪枝,降低大规模搜索空间带来的优化负担;主要研究对象是通用机器学习任务,而非 EEG 或 BCI。 其核心依据是作者观察到:在完整数据与通过子采样、降维获得的缩减数据上,算法及超参数配置的相对性能排序通常保持一致。第一阶段在缩减数据上评估并筛选有潜力的算法;第二阶段先剪枝超参数搜索空间,再在保留空间内执行超参数优化。摘要未说明具体降维方法、排序一致性度量、剪枝规则与优化器。 作者报告,在30个机器学习任务的系统评估中,TS-CASH 在约67%–73%的任务上优于所比较的先进 CASH 方法,时间开销仅略有增加;作者另报告,实际搜索空间最多缩减76%。摘要未列出任务、评价指标、具体基线与预算设置,因此这些比例不能解释为预测性能提升幅度,也不能据此判断同等计算预算下的优势。作者提供了源代码与实验数据链接,具体实验协议、消融及统计信息尚未验证。 平台推测(待验证):若缩减数据仍能保留候选管线的性能排序,该机制可能用于压缩 EEG 解码的算法与超参数搜索成本,可复用的是两阶段筛选流程,需改造的是保持被试、会话及类别结构的数据缩减与验证方式。低信噪比、通道差异、小样本和跨被试分布变化可能使排序失稳,导致有潜力的配置被过早排除。一个可检验的小实验是:在固定候选集合和计算预算下,仅用训练折构造缩减数据,以跨被试验证比较缩减前后的配置排序与优选配置保留率,再比较剪枝搜索和完整搜索的最终表现。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对的是利用降采样、降维后性能排序的稳定性进行 CASH 搜索空间剪枝的机制及其计算收益,但该排序假设在 EEG 小样本与跨被试条件下尚未验证。

来源:OpenReview · State space models · openreview.net