跳到正文
OpenReview · EEG· Cunhang Fan; Jingjing Zhang; Hongyu Zhang; Wang Xiang; Jianhua Tao; Xinhui Li; Jiangyan Yi; Dianbo Sui; Zhao Lv·· 2024-07-21精选AI 评分72

MSFNet:用于脑控说话人提取的多尺度融合网络

MSFNet: Multi-Scale Fusion Network for Brain-Controlled Speaker Extraction

AI 导读

基于摘要分析。本文研究多说话人环境下如何利用听者 EEG 引导目标说话人语音提取,提出多尺度融合网络 MSFNet,以利用 EEG 与语音中共同包含的目标说话人信息。研究还构建了 EEG-Audio 数据集 AVED,用于支持听觉注意解码相关研究及方法验证。 方法上,MSFNet 对混合语音进行多个时间尺度的编码,获得多尺度嵌入;EEG 编码器采用图卷积网络,以处理 EEG 的非欧几里得数据结构;随后将各尺度语音嵌入分别与 EEG 特征融合。其核心思路不是仅依据 EEG 判断注意对象,而是将 EEG 作为目标语音提取的辅助信息。摘要尚未说明 EEG 图的构建方式、各时间尺度的定义、具体融合算子、训练损失及语音重建过程。 作者报告,在公开的 Cocktail Party 数据集及新构建的 AVED 数据集上,MSFNet 在部分客观评价指标中显著优于所比较的最先进方法。摘要未给出指标名称、数值、对照方法、被试数量及被试内或跨被试等划分协议,因此不能据此判断优势幅度、跨被试泛化能力或实时应用表现,“显著”的统计依据也尚未验证。 复现时需核对 EEG 与语音的时间对齐、预处理、图结构定义、多尺度编码与融合配置,以及数据划分和对照实现。AVED 的采集任务、数据规模、开放条件,以及实验协议、消融及统计信息尚未验证。

阅读价值

值得关注其多时间尺度语音表征与图卷积 EEG 编码的融合机制,可用于研究脑控说话人提取中的跨模态信息利用;作者报告的性能优势仍需结合全文中的划分、指标与对照协议核验。

来源:OpenReview · EEG · openreview.net