跳到正文
arXiv · 多模态与生成机制· Renxiang Huang; Yuchen Liang; Yingbin Liang; Ness Shroff; Lifeng Lai·· 1 天前精选AI 评分79

零样本条件离散扩散中的 score 失配与集合约束采样

Score Mismatch and Set-Constrained Sampling in Zero-Shot Conditional Discrete Diffusion

AI 导读

基于摘要分析。本文研究无条件离散扩散模型在推理时直接用于条件生成所产生的 score 失配问题,贡献包括刻画额外偏差的 KL 散度上界,以及面向逐坐标集合约束的 Randomized Hard Clamping(RHC)采样器。 原问题是训练分布与条件目标分布不一致:模型学习无条件分布,但采样时需要满足部分观测或取值范围约束。作者将分析覆盖到 text infilling、sentence completion 及更一般的逐坐标集合约束,并声称给出 score 失配离散扩散模型的首次理论分析;这一优先性尚未独立核实。 作者报告,对经典 Conditional SEDD 采样器的分析显示,其偏差项可随维度、词表大小及 compatibility 变化;摘要未提供具体表达式,不能据此判断各因素的增长阶或主导条件。基于该分析,作者提出 RHC,并报告其赋值概率可通过无条件 scores 与吸收速率精确表达。具体随机化与硬约束操作、理论假设及计算开销尚未验证。 作者报告数值实验与真实数据实验支持 RHC 的有效性,但摘要未列出数据集、对照配置、指标或结果数值,实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 被预先表示为离散 token,且任务可明确写成已观测位置或逐坐标允许集合约束,该机制可能为离散生成式补全提供采样思路;它不直接解决连续 EEG 的生成问题,也不等同于跨被试域适应。可复用部分是约束采样机制,需另行设计离散表示与约束映射;低信噪比、通道差异及小数据下不可靠的无条件 scores 可能限制效果。一个可检验的小实验是在固定离散表示、预训练模型与被试内划分下,对比 RHC 和 Conditional SEDD 的缺失片段补全质量及约束满足率。上述 EEG 用途尚未验证,已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注其对无条件离散扩散模型用于条件采样时的 score 失配偏差所作的理论分解,以及据此提出的 RHC 采样器;具体界的适用条件与实证优势尚需全文核对。

来源:arXiv · 多模态与生成机制 · arxiv.org