跳到正文
OpenReview · EEG·· 2026-09-16精选AI 评分80

哪些数据,而非多少数据:EEG 基础模型中依赖架构的数据选择

Which Data, Not How Much: Architecture-Dependent Data Selection for EEG Foundation Models

AI 导读

基于摘要分析。该研究考察 EEG 基础模型是否会随预训练数据增加而稳定改善迁移表现,核心贡献是比较不同数据源组合,并分析数据选择效果与模型架构的关系,而非提出新的基础模型架构。 研究涵盖 16 个候选数据集、13 项下游任务,以及 LaBraM、CBraMod、BIOT 上的 202 种配置;各架构内部固定骨干网络与预训练轮数。作者报告,相比使用全部候选数据池预训练,121 种配置在训练窗口更少的情况下取得更高的平均测试 Balanced Accuracy;全部 39 个架构—任务组合均存在数据规模更小、得分更高的配置。加入与目标任务同属一个任务类别的数据源,甚至加入目标数据集自身的训练划分,也不一定改善表现。规模相近的数据混合可产生不同的基准平均表现,并在相关目标任务上呈现相反的效果变化。 容量实验中,作者报告,在固定 Base 容量下进一步扩充数据可使表现回升;将 LaBraM 扩展为 Large 后,全数据池预训练的劣势缩小,但一个包含六个数据源的子集仍领先 2.84 个百分点。摘要未明确该差值的具体指标及聚合方式,不能据此作跨协议比较。 研究还比较 Progressive、pairwise dataset valuation(PDV)、Size 和 Coverage 四种实用排序方法,涉及不同的评分成本,其中 Size 与 Coverage 的排序在 LaBraM 和 CBraMod 之间共用。作者据此认为,预训练数据组成与数据量同样值得关注,应采用适当的数据选择方法。 复现时需核对候选数据集、任务与被试划分、数据选择所用评分集及其与测试集的独立性、各组合的训练窗口和计算预算。固定预训练轮数并不等于固定训练窗口总量或计算量。具体排序算法、下游适配流程、重复实验、消融及统计信息尚未验证;现有摘要支持在所测配置内审视数据组成的重要性,不能推出更多 EEG 数据普遍无益。

阅读价值

该研究通过多架构、多任务的数据组合比较,提供了核对 EEG 基础模型预训练数据选择是否优于单纯扩充数据池的直接依据,但选择流程与评估独立性仍需全文验证。

来源:OpenReview · EEG · openreview.net