跳到正文
OpenReview · State space models·· 2026-09-16精选AI 评分79

以语义 token 作为像素空间生成的上下文

Semantic Tokens as the Context of Pixel Space Generation

AI 导读

基于摘要分析。该研究面向像素空间图像生成,探讨如何让生成器在去噪过程中保留并利用高层语义上下文,而非仅依靠当前含噪图像重新推导语义。作者提出 SemPix,通过 flow matching 从噪声联合生成语义 token 与像素,并将语义状态跨去噪步骤传递,为后续像素预测提供持续演化的上下文。 机制上,SemPix 使用粗粒度、局部聚合的语义 token 表示图像特定上下文;像素 token 与语义 token 在共享 Transformer 主干中通过联合自注意力交互,再由独立预测头映射至各自目标。与生成开始时即可提供的文本提示不同,这种上下文需要随图像共同生成。摘要未交代语义特征的来源、监督构造及具体损失形式,这些复现条件尚未验证。 作者报告,局部聚合特征比稠密或全局特征更有效,语义上下文在跨去噪步骤持续保留且直接参与像素预测时最有用。在类别条件 ImageNet-256 生成任务中,作者报告 SemPix-XL 训练 40 epochs 后取得无引导 FID 4.93,训练 160 epochs 后取得有引导 FID 1.72;两者训练时长与引导条件不同,不宜直接归因比较。具体对照基线、采样与引导设置、实验协议、消融及统计信息尚未验证。 平台推测(待验证):若将该机制用于 EEG 生成或重建,可检验的假设是,跨去噪步骤保留的粗粒度时序状态有助于维持长程结构;这不是已证实的 EEG/BCI 效果。可复用联合生成与状态传递思想,但图像局部聚合需改造为适配时间与通道结构的表示,并明确语义监督来源。低信噪比、跨被试差异及小数据可能使上下文保留伪迹或个体特征。一个小规模检验是在固定数据划分、主干和训练预算下,对比无语义状态、逐步重建状态与持续传递状态,评估重建误差及预先指定的频谱保真指标。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其语义状态跨去噪步骤保留与像素预测耦合的机制及消融;作者报告该设计改善图像生成,但其对 EEG/BCI 的适用性尚未验证。

来源:OpenReview · State space models · openreview.net