扩散与自回归文本到图像 Transformer 中的注意力汇聚现象探索

基于摘要分析。本文研究文本到图像（T2I）Transformer 中的 attention sinks，即持续吸收与其语义内容不成比例的注意力权重的 token 或位置。研究通过系统注意力分析、定向扰动及引入 register tokens，考察这一现象在双向扩散模型与因果自回归模型中的分布及其对图像生成的功能影响。 作者报告，两类架构均出现 attention sinks，但位置模式不同：自回归模型主要集中在首个 token 和全局尺度 token；双向模型则出现在模态边界附近、文本区域及空间角落。这些模式随生成阶段变化，并集中于少量层和注意力头，提示不能仅凭整体注意力分布判断其作用。 在功能干预方面，作者报告，在其摘要所述的注意力头扰动比较中，扰动按 sink 特征排序选出的注意力头，比非 sink 对照引起更大的平均变化；但对部分 sink 位置的扰动，对双向模型评分影响有限。因此，高注意力聚集与功能重要性并非简单等同。作者进一步引入 register tokens 重新分配注意力汇聚，并报告若干配置能够维持或小幅改善生成表现；摘要未提供模型名称、评分指标、具体配置和变化幅度，不能据此判断收益的稳定性或适用范围。 该研究的主要对象是 T2I 生成机制，而非 EEG 或 BCI。其可核对的贡献是将分布观察与干预结果结合，为分析注意力汇聚提供机制线索。具体模型、数据集、生成阶段划分、扰动强度、对照设置、消融及统计信息尚未验证；材料尚不足以建立明确的 EEG 迁移路径，也不能视为 BCI 有效性的证据。