跳到正文
OpenReview · Representation learning· Ilyass Moummad; Romain Serizel; Emmanouil Benetos; Nicolas Farrugia·· 2024-01-01精选AI 评分72

鸟类声音的域不变表征学习

Domain-Invariant Representation Learning of Bird Sounds

AI 导读

基于摘要分析。该研究针对鸟声分类中定向录音与被动声景录音之间的域偏移,利用监督式对比学习改善域泛化,并提出以类别原型进行对比的 ProtoCLR(Prototypical Contrastive Learning of Representations)。研究的主要对象是被动声学监测与生物声学预训练模型,而非 EEG 或 BCI。 定向录音有意采集目标物种声音,Xeno-Canto 等公民科学平台提供此类标注数据;实际被动声学监测则面对自然声景,两者分布差异会影响分类模型。作者的方法通过约束不同域中的同类别样本学习域不变表征。ProtoCLR 将 SupCon loss 中的样本两两比较替换为样本与类别原型的比较;作者报告这一设计可降低计算复杂度,但摘要未给出复杂度表达式或实测开销。 作者还提出基于大规模鸟声基准 BIRB 的新少样本分类评估,用于评估生物声学预训练模型。摘要未提供具体数据划分、分类指标、基线结果及性能增益;实验协议、消融及统计信息尚未验证。复现时需核对域的定义、类别原型构造与更新方式,以及少样本评估中的训练和测试类别设置。 平台推测(待验证):跨域同类约束可能对应 EEG 跨被试或跨会话的分布偏移,类别原型对比也可能用于降低表征学习的比较开销,但前提是训练域具备可对应的类别标签且原型能够代表类内差异。可复用的是对比目标与原型机制,需改造的是 EEG 编码器及域定义;低信噪比、通道差异和小样本条件可能使原型不稳定,过强域不变约束也可能损失任务相关信息。一个小规模可证伪实验是在固定 Cross-subject 划分、仅使用训练被试标签的条件下,比较常规分类训练、SupCon 与 ProtoCLR,并同时检查分类指标及计算开销。相关 EEG 工作尚未检索确认。

阅读价值

值得关注其通过跨域同类样本约束学习域不变表征,以及用类别原型替代样本两两比较的 ProtoCLR;实际泛化收益与计算开销仍需核对全文实验。

来源:OpenReview · Representation learning · openreview.net