跳到正文
arXiv · 多模态与生成机制· Kwanyoung Lee; SeungJu Cha; Yebin Ahn; Sungho Koh; Dong-Jin Kim·· 15 小时前精选AI 评分77

超越成对排斥:通过扩散采样中的行列式最大化实现集合多样性

Beyond Pairwise Repulsion: Collective Diversity via Determinant Maximization in Diffusion Sampling

AI 导读

基于摘要分析。本文研究文本到图像(T2I)扩散模型在强引导下生成样本趋于相似原型的问题,提出 DetNO(Determinant Noise Optimization),通过优化初始噪声的集合级目标提升批次多样性,无需训练或修改采样器;其主要研究对象是图像生成与合成数据增强,而非 EEG 或 BCI。 核心机制是基于一步 Tweedie 预测构建 RBF Gram 矩阵,最大化其对数行列式,以表征再生核希尔伯特空间(RKHS)中的批次体积。作者强调,成对距离不足以完整刻画集合是否塌缩到低维子空间,而行列式目标能够约束这种高阶退化。作者称,该目标在批次高度塌缩时排斥最强,并随多样性提高而减弱;另以基于锚点的保真项约束优化噪声,经拉格朗日松弛形成由单一超参数 λ 调节多样性与质量权衡的双项目标。 作者报告,在 SD1.5、SDXL 和 SD3 三种骨干上,DetNO 的 VendiScore 与 Mean Self-Similarity 表现支持其批内多样性优势;在下游少样本分类的合成数据增强实验中,低样本条件下获得统计显著的 Accuracy 收益。固定生成流程、仅改变批次目标时,两种基于 RBF 的聚合目标均优于 InfoNCE,对数行列式在两个基准上取得最佳下游 Accuracy,且相对 InfoNCE 的多样性优势随批次增大而扩大。摘要未给出基准名称、具体分数、划分与统计检验细节,实验协议、消融及统计信息尚未验证。作者提供了代码链接,复现仍需核对依赖、锚点定义、λ 设置及噪声优化开销。 平台推测(待验证):若 EEG 条件生成中也存在批次模式塌缩,可假设集合级行列式目标有助于改善合成样本覆盖,但这依赖可用的一步预测、合理的 EEG 相似性表征与保真锚点。可复用批次目标,需改造特征核与保真约束;低信噪比、通道差异和小数据可能使优化扩大伪迹或被试差异,而非任务相关变化。一个小规模检验是在固定 EEG 生成器、合成样本数及跨被试划分下,仅替换批次目标,比较多样性、信号保真度和下游 Accuracy。该假设不构成已验证的 EEG 效果,已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其固定生成流程、仅替换批次目标的对照实验,以判断集合级体积最大化是否比成对排斥更有效地改善生成多样性及下游数据增强收益。

来源:arXiv · 多模态与生成机制 · arxiv.org