SAV-SE:采用选择性状态空间模型的场景感知视听语音增强
SAV-SE: Scene-Aware Audio-Visual Speech Enhancement With Selective State Space Model
基于摘要分析。本文研究视听语音增强在面部或唇部被遮挡、摄像机距离较远时难以利用视觉信息的问题,提出 Scene-aware Audio-Visual Speech Enhancement(SAV-SE)任务:利用同步视频中的环境上下文提示噪声类型,辅助语音增强。作者提出 VC-S²E 方法,结合 Conformer 与 Mamba 模块。 核心思路不是仅从唇部运动获取目标语音线索,而是利用周围场景识别潜在干扰声源。摘要以看见狗吠作为直观例子,说明场景信息可能帮助辨别需要抑制的噪声。作者称这是首次利用同步视频中的丰富上下文信息提示噪声类型并改善语音增强;这一优先性主张尚未独立核实。摘要仅说明 Conformer 与 Mamba 具有互补优势,未提供视觉特征提取、跨模态融合、状态空间模块配置、损失函数及训练流程的具体细节。 作者报告在公开 MUSIC、AVSpeech 和 AudioSet 数据集上开展实验,VC-S²E 优于所比较的竞争方法。摘要未给出具体指标、分数、数据划分、噪声构造方式或基线名称,因此不能量化增益,也不能据此判断在遮挡、远距离拍摄等条件下的独立表现;实验协议、消融及统计信息尚未验证。 本文的主要研究对象是语音与场景视频,不是 EEG 或 BCI。现有材料不足以确认其场景噪声提示机制能对应神经信号中的具体干扰来源,不应把语音增强结果视为 BCI 有效性证据。相关 EEG 工作尚未检索确认;复现原方法仍需取得全文,核对同步视频的使用方式、数据处理与评估协议。
值得阅读的是其将视听语音增强的视觉辅助信息从唇部运动扩展到场景噪声线索的任务设计,以及 Conformer 与 Mamba 的组合方法;具体性能增益和模块贡献尚需全文核对。
来源:OpenReview · State space models · openreview.net