探索潜在音频分词器中的 Token 空间操控
Exploring Token-Space Manipulation in Latent Audio Tokenizers
基于摘要分析。本文研究语音神经音频编解码器的离散表示如何支持全局属性编辑,提出 Latent Audio Tokenizer for Token-space Editing(LATTE),以固定数量的可学习潜在 token 构成紧凑瓶颈,在语音重建之外支持直接的 token 空间干预。 机制上,LATTE 在音频特征序列后追加一组可学习潜在 token,仅保留这些 token 用于量化和解码。与按帧组织 token 的编解码器不同,该瓶颈不与时间逐帧对齐,每个潜在 token 均可聚合整段话语的信息。作者通过交换不同话语中选定位置的潜在 token,研究说话人身份、背景噪声等全局属性的变化,并在 voice conversion 与 denoising 任务上评估这些干预。 作者报告,在低比特率语音编码设置下,LATTE 保持了有竞争力的重建质量,同时支持上述属性操控。摘要未提供具体码率、数据集、评价指标、对照模型或数值,因此尚不能量化其重建与编辑之间的权衡。作者认为,该表示可支持不依赖任务专用编辑模型监督的可控音频操控;这不等于整个 tokenizer 的训练无需监督,也不足以确认不同属性已被稳定解耦。实验协议、消融及统计信息尚未验证。 平台推测(待验证):非时间对齐的全局瓶颈可能与 EEG 中跨时间聚合信息的需求存在机制联系,但本文的主要对象是语音编解码与编辑,而非 BCI。迁移到 EEG 需改造多通道输入、量化与重建目标,并验证全局压缩是否损害 ERP 等任务相关时序信息;低信噪比、通道差异、跨被试变化及小数据训练也可能使 token 混合任务因素与干扰因素。一个可证伪的小实验是假设固定潜在 token 能改善全局因素表征,在相同训练数据与瓶颈容量下,将其与逐帧 token 表示比较,并在被试独立划分中同时检查任务信息保留与干扰敏感性。该方案并非原论文结果,已有 EEG 相关工作尚未检索确认。
值得关注的是 LATTE 将逐帧音频 token 改为非时间对齐的全局潜在瓶颈,并通过 token 位置交换检验属性可控性;重建质量与编辑效果的具体证据仍需全文核对。
来源:OpenReview · State space models · openreview.net