跳到正文
OpenReview · Representation learning· Xilin Jiang; Cong Han; Yinghao Aaron Li; Nima Mesgarani·· 2024-01-01精选AI 评分73

空间声音事件表征的自监督对比学习探索

Exploring Self-supervised Contrastive Learning of Spatial Sound Event Representation

AI 导读

基于摘要分析。本文研究如何从未标注的多通道空间音频中同时学习声音事件“是什么”与“在哪里”的表征,提出多通道对比学习框架 MC-SimCLR,联合编码频谱与空间信息,以支持下游事件分类和声源定位。研究对象是空间音频,而非 EEG 或 BCI。 核心机制是多层级数据增强:分别在波形、Mel 频谱图及广义互相关(GCC)特征层面进行增强,并引入随机交换麦克风顺序、掩码 Mel 与 GCC 通道的通道级操作。其方法重点在于结合不同特征层级与通道结构构造自监督学习视图;具体对比损失、编码器结构及增强参数尚未验证。 作者报告,在所学表征上使用线性层进行下游评估时,事件分类准确率和声源定位误差均显著优于监督模型。摘要未提供数据集、划分、监督基线配置、具体数值及显著性检验信息,因此该结论的适用范围仍需核对。作者还报告分析了各类增强的影响,并比较了不同标注数据量下的微调表现;实验协议、消融及统计信息尚未验证。 平台推测(待验证):其可迁移假设是,多层级与通道级增强可能有助于 EEG 表征应对通道缺失及小样本标注,但音频中的空间线索依赖麦克风关系,不能直接等同于 EEG 电极拓扑。可借鉴增强与对比学习框架,需重新设计适合 EEG 的时频特征和通道操作;尤其随机交换通道可能破坏脑区语义,低信噪比与跨被试差异也可能使增强视图失去任务相关信息。可在固定跨被试划分和相同编码器、标注量下,小规模比较无通道增强、通道掩码及通道交换,检验其对下游性能和缺失通道鲁棒性的影响。已有 EEG 相关工作尚未检索确认。

阅读价值

值得阅读的是其面向多通道音频的多层级与通道级增强设计,以及对事件分类、声源定位和标注量影响的联合分析;其对 EEG 的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net