跳到正文
OpenReview · EEG· Yina Guo; Xiaofei Zhang; Zhenying Gong; Anhong Wang; Wenwu Wang·· 2021-01-01精选AI 评分70

利用 Dual-DualGAN 将人类神经活动端到端转换为语音

End-to-end translation of human neural activity to speech with a dual-dual generative adversarial network

AI 导读

基于摘要分析。该研究针对听觉诱发电位(AEP)BCI 中从 EEG 到语音的转换问题,提出端到端模型 Dual-DualGAN,以过渡域连接 EEG 与语音信号,目标是实现词级和句级序列的一对一跨域转换。其研究对象是听觉刺激相关的神经活动,不能据此认定模型能够解码自主构思或想象的语音。 作者认为,既有编码器—解码器方法常采用两步流程,通过共享降维向量传递信息,可能造成信息损失;直接使用 DualGAN 虽可避免这种信息传递方式,却难以保证一对一信号转换。为此,Dual-DualGAN 对 EEG 与语音信号进行分组标记,并引入过渡域:将对应 EEG 和语音信号按一定比例拼接成过渡信号,为缺少对应特征的两个信号域建立映射桥梁。摘要未提供具体网络结构、损失函数、拼接比例及分组标记规则,这些实现细节尚未验证。 数据方面,作者报告设计了用于检测参与者注意力的装置,并据此构建面向注意力良好参与者的新 EEG 数据集。被试数量、刺激材料、注意力判定标准、采集通道和训练测试划分均尚未验证,尤其需要核对评估属于被试内、跨被试还是跨会话,以及测试语音内容是否在训练阶段出现。 结果方面,作者报告,在词级和句级听觉刺激实验中,该方法显著优于所比较的当时先进方法;摘要未给出评价指标、具体数值、对照方法名称或统计检验信息,因此无法量化优势或判断跨协议泛化能力。复现需进一步取得数据、预处理与对齐流程、过渡域构造方法及训练配置;实验协议、消融及统计信息尚未验证。

阅读价值

值得核对其通过 EEG—语音拼接过渡域约束一对一跨域映射的机制,但摘要中的性能优势仍需结合数据划分、评价指标和对照设置验证。

来源:OpenReview · EEG · openreview.net