通过增量自适应评估实现迭代特征空间优化
Iterative Feature Space Optimization through Incremental Adaptive Evaluation
基于摘要分析。本文研究通用机器学习中的迭代特征空间优化,提出 gEneralized Adaptive feature Space Evaluator(EASE),旨在缓解忽略样本差异造成的评估偏差、特征空间对特定下游模型的过拟合,以及每轮从头训练评估器的效率问题;研究对象并非 EEG 或 BCI。 EASE 包含 Feature-Sample Subspace Generator 与 Contextual Attention Evaluator。前者依据评估器反馈,识别与预测任务最相关的特征及评估难度最高的样本,用于构造下一轮特征子空间,使评估持续聚焦于较难处理的信息。后者采用 weighted-sharing multi-head attention,将特征空间的关键特性编码为嵌入向量并进行评估;利用相邻迭代特征空间共享部分信息这一条件,增量更新评估器,以保留既有评估知识并吸收新信息。摘要未说明具体优化目标、监督信号、损失形式及增量更新规则。 作者报告,在十二个真实世界数据集上的实验支持该框架的有效性,但摘要未提供数据集名称、划分、对照模型、性能指标或耗时,因而尚不能量化收益或确认泛化范围。作者提供了公开代码与数据地址,其内容和可运行性尚未验证;实验协议、消融及统计信息亦尚未验证。 平台推测(待验证):若用于具有任务标签的 EEG 特征表,困难样本反馈与增量评估可能有助于降低反复搜索特征的成本。可复用的是子空间生成与评估器增量更新思路;需改造的是 EEG 通道、频带及时间特征的表示,并使评估反馈符合被试级数据划分。假设的主要风险是低信噪比下将伪迹或异常样本当作困难样本,小数据下反馈不稳定,以及被试与通道差异导致已有评估知识失效。可先在固定的 Cross-subject 划分和相同搜索预算下,对比增量更新与每轮从头训练,记录下游 Balanced Accuracy、评估耗时及所选特征稳定性。上述仅为可检验假设,已有 EEG 相关工作尚未检索确认。
值得核对 EASE 如何通过困难样本驱动的子空间构造与增量评估减少重复训练,以及其跨下游模型泛化是否得到实验支持;其对 EEG 特征优化的价值尚未验证。
来源:OpenReview · State space models · openreview.net