跳到正文
OpenReview · EEG· Zenon Lamprou; Iakovos Tenedios; Yashar Moshfeghi·· 2025-01-01AI 评分52

激活函数在 EEG-to-Text 解码器中的作用

On the Role of Activation Functions in EEG-to-Text Decoder

AI 导读

基于摘要分析。该研究针对 EEG-to-Text 文本生成,考察能否在不改变模型架构的情况下,通过替换激活函数改善已有解码器的性能。其贡献是比较多种激活函数,并揭示多项式激活函数与 leaky ReLU 在不同 n-gram 评估下的表现差异。 方法方面,作者以已有 EEG-to-Text 方法为基础,将优化重点放在激活函数选择,而不是重新设计网络架构。摘要涉及高阶多项式激活函数、可学习与不可学习的三次激活函数,以及 leaky ReLU;具体函数形式、可学习参数的约束、替换位置、训练损失与推理流程尚未验证。 结果方面,作者报告,高阶多项式激活函数可在保持模型架构不变的条件下改善性能;在 1-gram 评估中,可学习的三次激活函数优于不可学习的三次函数。但在 2-gram 及更高阶评估中,多项式函数表现不足,而 leaky ReLU 优于基线。摘要未明确评估指标名称、具体分数及基线配置,因此不能将这些结果解释为所有文本生成指标上的一致提升,也不能量化改善幅度。 复现时值得核对激活函数替换范围、各配置的训练条件是否一致,以及不同 n-gram 结果是否具有稳定性。数据集、被试数量、EEG 预处理、数据划分、被试内或跨被试协议、实验消融及统计信息尚未验证。现有摘要支持将激活函数视为 EEG-to-Text 解码中的一个可检验因素,但不足以确认其跨被试、跨会话泛化能力或实际 BCI 使用效果。

来源:OpenReview · EEG · openreview.net