跳到正文
OpenReview · Representation learning· Ziyang Ma; Zhisheng Zheng; Changli Tang; Yujin Wang; Xie Chen·· 2022-01-01精选AI 评分71

MT4SSL:通过整合多种目标增强自监督语音表征学习

MT4SSL: Boosting Self-Supervised Speech Representation Learning by Integrating Multiple Targets

AI 导读

基于摘要分析。本文研究自监督语音表征学习中的训练目标构建问题,提出多任务学习框架 MT4SSL,将离线提取与在线提取的目标整合到预训练中,以改善表征学习效果和收敛表现;主要研究对象是语音,而非 EEG 或 BCI。 机制上,作者将目标提取器概括为 Offline Targets Extractor(Off-TE)和 Online Targets Extractor(On-TE),分别使用 K-means 与不接收梯度的教师网络提供训练目标。其核心思路是联合利用两类目标,而非仅依赖一种目标来源。摘要未说明聚类所用特征、教师更新方式、具体损失及任务权重,这些实现条件尚未验证。 作者报告,在 LibriSpeech 基准上,MT4SSL 优于此前的自监督方法,并能在使用较少数据的条件下达到与表现最佳模型相当或更好的效果;作者还报告,同时使用 Off-TE 与 On-TE 可改善预训练收敛。摘要未给出具体下游任务、评价指标、数值、数据规模或划分,因此无法量化收益,也不能据此确认不同方法的训练预算是否可直接比较。实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 的无标签片段能够形成稳定的聚类结构,且在线教师能够提供一致目标,这种双目标机制可能用于检验单一伪标签不稳定这一自监督学习瓶颈。可复用的是离线聚类与在线教师的联合训练思路,需改造输入表征、时间尺度和通道处理;语音结果不能直接外推至 EEG。低信噪比、跨被试差异及通道配置变化可能使聚类捕捉被试或设备特征,小数据也可能降低教师目标的稳定性。一个可证伪的小实验是在固定 EEG 编码器、预训练数据与训练预算下,对照仅 Off-TE、仅 On-TE 和两者联合,使用严格隔离被试的评估检验下游性能与收敛差异。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对离线聚类目标与在线教师目标联合训练的收益及数据效率,但其对 EEG 自监督学习的价值仍属待验证假设。

来源:OpenReview · Representation learning · openreview.net