TempoKV：面向自回归视频生成的预测式 KV 缓存量化

基于摘要分析。TempoKV 针对自回归（AR）视频扩散模型在流式长视频生成中不断增长的 KV 缓存开销，提出无需训练原生成模型的预测式量化框架：利用视频缓存的时空冗余预测 key 和 value，仅以低精度存储预测残差。 核心机制是区分 key 与 value 的依赖关系。作者观察到，key 可由其时间历史较好地预测，而 value 主要依赖当前 key，并需要较短的历史 value。框架分别为二者构建轻量预测器，通过少量 BF16 样本进行一次离线线性回归校准，此后在不同提示词和生成运行中保持固定。因此，摘要所称的 training-free 并不意味着无需校准数据或拟合过程；具体残差量化方式、位宽配置及缓存重建流程尚未验证。 作者报告，在 Self-Forcing、Causal Forcing 和 LongCat-Video-13B 上，相较现有 KV 缓存量化方法，TempoKV 在相当或更高压缩比下取得更高生成质量，并在这些实验中最高达到 6.71 倍 KV 缓存压缩。摘要未提供该最高压缩比对应的具体模型、量化配置、质量指标和对照数值，因而不能据此推断端到端显存节省或生成加速幅度。实验协议、消融及统计信息尚未验证。 复现时需核对校准样本的来源与规模、预测器在不同生成长度下的稳定性，以及残差量化误差是否随时间累积。作者表示将于 GitHub 发布代码，当前材料不能确认代码已经公开。本研究主要面向视频生成推理效率，摘要未提供 EEG/BCI 实验或直接机制对应，不据此推断其神经信号应用效果。