跳到正文
arXiv · 多模态与生成机制· Ole Beißwenger; Jan-Niklas Dihlmann; Hendrik Lensch·· 2 天前精选AI 评分79

图像分词器应在图像之间接受训练

Image Tokenizers Should Be Trained Between Images

AI 导读

本文研究图像分词器的解码器如何处理训练样本编码之间的潜在区域,提出 InterpTok,通过微调 MAETok,使混合图像编码解码为自然图像,从而改善插值与潜在扩散生成。基于摘要分析,未取得论文全文。 核心机制:作者认为,生成器产生的编码并非训练图像编码的直接复现,其分布更接近训练编码之间的混合,而不是单个编码叠加噪声;因此,仅通过训练时加噪提高解码器鲁棒性,未必能充分覆盖生成编码。InterpTok 显式训练解码器处理编码混合。由于两幅训练图像之间不存在对应的目标图像,方法使用判别器评价混合解码结果是否与两幅源图像同样自然,并引入 mixing ratio loss,要求解码结果保留两个编码的混合比例。作者认为两者共同避免平凡解,并形成清晰、自然的图像组合;具体损失形式及混合比例的测量方式尚未验证。 结果:作者报告 InterpTok 保持 MAETok 的重建质量,插值质量改善超过三倍,并在一项近期 benchmark 中优于其他参评 tokenizer,但摘要未给出该指标定义、数据集及完整对照。对于匹配的 diffusion transformer,在无 guidance 条件下,作者报告生成 FID 从 11.61 降至 8.48;在采样步数为原设置八分之一时达到 8.11,而使用 MAETok 编码的生成器在减少步数后表现变差。作者还报告,使用其 tokenizer 的生成器以一半训练步数达到 MAETok 对照生成器的最终结果。绝对步数、数据划分、计算预算、消融及统计信息尚未验证。 平台推测(待验证):可迁移的假设是,对连续潜在编码中的样本间区域进行约束,可能缓解 EEG 生成解码器遇到非训练编码时的失真,但这不是已证实的 BCI 效果。若用于 EEG,需将图像自然性判别及 mixing ratio loss 改造为适合时序信号的约束,并核对混合是否保留任务标签与生理特征;低信噪比、跨被试差异、通道布局和小数据均可能使该假设失效。一个可证伪的小实验是在固定 EEG 数据划分与生成器预算下,对比加噪训练和编码混合监督,分别评估信号保真度与下游任务表现。相关 EEG 工作尚未检索确认。

阅读价值

值得核对其对图像潜在编码之间区域的显式监督:作者报告在保持 MAETok 重建质量的同时改善插值及匹配生成器的 FID,但评估协议、损失细节与统计信息尚未验证。

来源:arXiv · 多模态与生成机制 · arxiv.org