跳到正文
OpenReview · EEG· Yina Guo; Ting Liu; Xiaofei Zhang; Anhong Wang; Wenwu Wang·· 2023-01-01精选AI 评分70

基于 Dual-DualGAN 的人类神经活动到语音的端到端转换

End-to-end translation of human neural activity to speech with a dual-dual generative adversarial network

AI 导读

基于摘要分析。研究针对听觉诱发电位(AEP)BCI 中的神经活动到语音转换问题,提出端到端模型 ET-CAS,利用双重生成对抗网络 Dual-DualGAN 学习 EEG 与语音信号之间的跨域映射。其研究对象是听语音刺激时记录的 EEG,而非摘要已证实的自主言语或想象言语解码。 核心机制:作者认为,既有编码器—解码器方法通常采用两步转换,通过低维共享向量传递信息,可能造成信息损失。所提方法将对应 EEG 与语音信号按一定比例级联,构造过渡信号,再学习语音、EEG 与过渡信号之间的映射。摘要未给出具体级联比例、网络结构、损失函数或推理时过渡信号的构造方式,这些均需全文核对。 数据与结果:作者还构建了一个 EEG 数据集,在记录 EEG 前检测参与者的注意状态,以确保其专注聆听语音。作者报告,在词级和句级听觉刺激条件下,该方法均可将相应长度的神经活动序列转换为语音,并显著优于所比较的先进方法;摘要未提供具体指标、效应大小、统计检验或基线名称,因此尚不能量化优势。 验证边界:被试人数、训练与测试划分、被试内或跨被试协议、刺激内容是否跨划分重复、注意检测方法、消融及统计信息尚未验证。复现时尤其需要核对 EEG—语音配对方式、过渡信号的训练与推理流程,以及语音可懂度和重建质量的评价协议。听觉刺激条件下的结果不应直接外推为无需外部语音刺激的交流型 BCI 能力。

阅读价值

值得核对其以过渡信号连接 EEG 与语音域的映射机制,以及词级和句级语音重建的评估协议;摘要中的优势结论尚需全文指标与对照验证。

来源:OpenReview · EEG · openreview.net