跳到正文
OpenReview · State space models· Zitao Shuai; Chenwei Wu; Zhengxu Tang; Bowen Song; Liyue Shen·· 2024-01-01精选AI 评分77

Diffusion Transformers 中的潜空间解耦实现精确的零样本语义编辑

Latent Space Disentanglement in Diffusion Transformers Enables Precise Zero-shot Semantic Editing

AI 导读

基于摘要分析。本文研究文本引导图像编辑中 Diffusion Transformers(DiTs)的联合潜空间如何组织多模态语义,并提出 Encode-Identify-Manipulate(EIM)框架,通过文本提示识别和操纵编辑方向,实现无需额外训练或掩码标注的零样本细粒度图像编辑。 作者报告两项核心发现:DiT 潜空间具有内在的语义解耦性质,不同语义属性可由特定方向控制;一致的语义编辑需要利用完整的图像—文本联合潜空间,单独的图像编码或文本编码不足以提供所需语义信息。这些结论的适用模型、属性范围及验证条件尚需全文确认。 EIM 首先联合编码源图像及描述该图像的文本提示,获得联合潜表示;随后采用作者提出的 Hessian Score Distillation Sampling(HSDS)识别控制目标属性、同时保留其他图像特征的编辑方向,再据此操纵潜表示。摘要未提供 HSDS 的具体目标函数、Hessian 计算方式或推理开销,尚不能判断其实现成本与稳定性。 作者还提出衡量扩散模型潜空间解耦程度的新指标,并构建新的评测数据集。作者报告实验与分析支持上述解耦性质及 EIM 的有效性,但摘要未给出数据集名称、规模、具体指标数值或对照方法;实验协议、消融及统计信息尚未验证。原研究对象是图像生成与语义编辑,材料未提供 EEG/BCI 验证,不能据此认定该机制适用于神经信号。

阅读价值

值得关注其通过文本提示识别 DiT 联合潜空间编辑方向的机制,以及对语义解耦程度的量化思路;精细编辑与非目标属性保留的实际效果仍需结合全文实验核对。

来源:OpenReview · State space models · openreview.net