Diffusion Transformers 中的潜空间解耦实现精确的零样本语义编辑
Latent Space Disentanglement in Diffusion Transformers Enables Precise Zero-shot Semantic Editing
基于摘要分析。本文研究文本引导图像生成模型 Diffusion Transformers(DiTs)的图文联合潜空间如何组织语义,并提出 Encode-Identify-Manipulate(EIM)框架,在无需额外训练或掩码标注的条件下进行零样本细粒度图像编辑。 核心机制是先联合编码源图像及描述该图像的文本提示,获得联合潜表示;再通过 Hessian Score Distillation Sampling(HSDS)识别控制目标属性的编辑方向,并沿这些方向操纵潜表示,以改变目标语义、保留其他图像特征。摘要未提供 HSDS 的具体公式、方向估计过程及推理成本,这些实现细节尚未验证。 作者报告,DiT 潜空间具有语义解耦特性,不同语义属性可由特定编辑方向控制;一致的语义编辑需要利用完整的图文联合潜空间,单独的图像编码或文本编码不足以提供所需语义信息。作者还提出量化扩散模型潜空间解耦程度的新指标,并在新整理的基准数据集上开展实验。摘要未给出数据集名称、规模、具体指标数值或对照结果,因此目前无法量化 EIM 相对其他方法的收益;实验协议、消融及统计信息尚未验证。 该研究的主要对象是图像生成与编辑,并非 EEG 解码或 BCI。其方法依赖图文联合表示和文本指定的可控语义属性;现有材料未建立这些条件与神经信号任务的具体对应关系,因此不据此推断 EEG/BCI 有效性。
值得关注其通过文本提示识别 DiT 联合潜空间编辑方向的机制,以及用于量化语义解耦的新指标;方向识别与属性保持能力仍需结合全文实验核对。
来源:OpenReview · State space models · openreview.net