跳到正文
OpenReview · Representation learning·· 2026-09-08精选AI 评分74

超越编码器:通过参数化软离散随机变量学习潜在表征

Beyond the Encoder: Latent Representation Learning via Parametric Soft Discrete Random Variables

AI 导读

基于摘要分析。本文面向图像重建与潜在表征学习,提出无编码器框架 Parametric Soft Discrete Random Variable Auto-Decoder(PSDR-AD),以逐图像直接优化的潜变量替代编码器输出。其核心假设是:编码器学习到的映射会约束可获得的表征,而直接求解解码器输入可能改善重建。 训练时,每幅图像对应一个专属的 Parametric Soft Discrete Random Variable(PSDR-Var),通过噪声注入形成离散潜变量的软随机松弛;这些变量输入共享解码器,潜变量与解码器联合优化。测试时固定解码器,为未见图像初始化新的 PSDR-Vars,再以重建误差为目标迭代优化。因此,表征提取从编码器的一次前向计算变为针对每个输入的逆向优化问题。摘要未给出松弛分布、损失具体形式、优化步数及计算开销。 作者报告,在 ImageNet 上使用同一个预训练 FLUX-VAE 解码器时,直接潜变量优化使 rFID 从 0.176 降至 0.005,并报告其低于已有连续重建方法。该结果属于图像重建评估,不等同于下游分类或语义表征质量提升;具体数据划分、对照方法、实验协议、消融及统计信息尚未验证。还需核对离散松弛与直接优化各自的贡献,以及测试时延迟和初始化敏感性。 平台推测(待验证):可检验的迁移假设是,固定 EEG 解码器后逐样本优化潜变量,可能缓解编码映射对信号重建的限制;但这依赖可训练的 EEG 重建模型及适配信号结构的重建目标,需要改造图像解码器与输入表示。低信噪比可能使优化追随噪声,被试与通道差异可能超出固定解码器的表达范围,小数据也可能限制解码器训练。小规模检验可在固定被试内划分和同一解码器下,对比编码器输出、连续潜变量优化与 PSDR-Var 优化,同时记录留出数据重建误差、下游任务表现及推理耗时。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其在固定预训练解码器下通过直接潜变量优化改善重建的机制,以及收益与测试时优化成本的权衡,但摘要结果尚不能证明其对下游表征任务或 EEG 有效。

来源:OpenReview · Representation learning · openreview.net