跳到正文
OpenReview · EEG· Nicolás Nieto; Francisco Ibarrola; Victoria Peterson; Hugo Leonardo Rufiner; Ruben D. Spies·· 2019-01-01精选AI 评分71

应对非代表性特征的 Extreme Learning Machine 设计

Extreme Learning Machine design for dealing with unrepresentative features

AI 导读

基于摘要分析。本文研究 Extreme Learning Machine(ELM)在特征缺乏代表性时的隐藏节点规模选择,提出在某些数据条件下,使用远多于训练样本数的隐藏节点可能有益,并通过剪枝降低扩大模型带来的额外计算负担。作者报告,在 EEG 信号实验中,该设计相较传统 ELM 方法提升了性能,同时减少了大规模架构引入的额外计算时间。 核心问题是模型规模与泛化能力之间的关系。摘要将隐藏节点数描述为 ELM 需要调节的主要参数,并指出传统做法通常使其小于训练样本数以避免过拟合。摘要援引的理论结论是:当隐藏节点数等于训练样本数时,相对于随机参数初始化,获得完美训练分类的概率为 1;这一结论涉及训练集拟合,不等于测试集泛化保证。本文进一步主张,节点数显著超过训练样本数是否有益取决于数据的某些性质,并提供解释与示例,但摘要未展开这些性质及其适用条件。 方法上的贡献包括扩大 ELM 隐藏节点规模,以及用于控制额外计算负担的剪枝算法。剪枝依据、参数求解方式、是否使用正则化,以及“非代表性特征”的具体定义尚未验证。不能仅凭摘要将性能收益归因于某一种特征选择或降噪机制。 EEG 是文中实际实验对象,但摘要未说明任务类型、数据集、被试数、特征构造、被试内或跨被试划分,也未提供性能指标、数值及运行时间测量条件。因此,作者报告的改善目前只能作为定性结果,不能推定为特定 BCI 任务上的有效性。复现时需核对节点规模与样本数的关系、随机初始化的重复评估、剪枝前后的性能与计算成本,以及传统 ELM 对照的调参协议;实验协议、消融及统计信息尚未验证。

阅读价值

值得核对其“大隐藏节点规模加剪枝”的 ELM 设计是否能在 EEG 特征表征不充分时改善泛化,并在同一评估协议下兼顾性能与计算成本;摘要所述收益尚需全文实验支持。

来源:OpenReview · EEG · openreview.net