跳到正文
OpenReview · Representation learning·· 2026-08-20精选AI 评分80

AuDiAE:通过耦合扩散先验与解码器学习音频潜在表示

AuDiAE: Learning Audio Latents by Coupling Diffusion Priors and Decoders

AI 导读

基于摘要分析。该研究面向音频自编码与下游条件音频生成,提出 AuDiAE(Audio Diffusion AutoEncoder),通过共享编码表示耦合学习式扩散率模型与生成式波形解码器,旨在改善高压缩下的重建细节保留及文本条件生成。 核心机制是重新分配潜在表示的信息成本:标准高斯后验 KL 正则不仅限制信息量,还惩罚聚合后验与固定高斯分布的失配。AuDiAE 以学习式边缘扩散先验替代固定参考分布,同时维持变分信息界;其条件版本降低可由文本等条件预测的信息在训练目标中的成本,而边缘率项仍约束总潜在信息量。解码端采用预测干净波形的 flow-matching 解码器,以建模高压缩后仍未确定的残余波形变化;摘要将编码源细节的价值与最优去噪风险的降低联系起来,但未提供具体目标函数。 作者报告,在 AuDiAE 的 2048× 压缩和 AuDiAE-H 的 4096× 压缩设置下开展重建与匹配的 AudioCaps 生成评估,AuDiAE 在所有已报告重建指标上领先;在 AudioCaps 生成评估中,相对最强外部基线的 FAD 改善 35%,并取得最高 CLAP。摘要未列出绝对分数、基线名称及具体数据划分,不能据此扩展为其他协议下的优势。作者报告,匹配对照支持学习式率参考与正确文本—音频配对的作用;冻结诊断区分出更紧密的先验拟合和文本利用,但不支持解码器具有因果优势。实验协议、消融及统计信息尚未验证。 平台推测(待验证):其潜在迁移价值是将信息容量约束与固定先验失配成本分开,可能用于研究 EEG 压缩表示的重建—信息量权衡,而非直接证明 BCI 解码有效。可复用学习式率模型的思路,但需改造波形解码器及条件输入;音频实验的数据规模和监督配置尚未验证,EEG 的低信噪比、跨被试差异与通道布局变化也可能使模型保留噪声或难以稳定拟合先验。一个可证伪的小实验是在固定 EEG 编码器、解码器和被试内数据划分下,对比固定高斯参考与学习式参考,在匹配信息预算时同时评估重建和下游任务表现。相关 EEG 工作尚未检索确认。

阅读价值

值得核对其以学习式扩散先验区分信息容量与分布匹配成本的机制,以及匹配对照和冻结诊断如何限定性能提升的归因;摘要尚不支持解码器具有因果优势的结论。

来源:OpenReview · Representation learning · openreview.net