CSR：通过稀疏表示实现 1 Bit 键值缓存

基于摘要分析。该研究针对长上下文 LLM 推理中 KV cache 随上下文长度线性增长带来的内存瓶颈，提出 Cache Sparse Representation（CSR），以稀疏索引与权重替代稠密键值缓存张量，并提出 NeuralDict 自动生成稀疏表示所用的字典。 其主要机制是改变注意力键和值的存储表示，而非仅对原始缓存元素进行常规量化。NeuralDict 是基于神经网络的字典生成方法，但摘要未交代字典的训练目标、生成过程、稀疏编码求解方式，以及压缩缓存如何参与注意力计算。标题中的“1 Bit”不能直接等同于包含字典、索引和权重等全部开销后的平均存储成本，其定义与核算协议尚未验证。 作者报告，在所开展的 LLM 推理实验中，CSR 的性能可与先进 KV cache 量化算法相当，并能在内存受限环境下保持运行能力。摘要未提供模型、任务、上下文长度、硬件条件、具体基线或数值，因此尚不能判断性能相当具体指任务质量、压缩效果还是运行效率；实验协议、消融及统计信息尚未验证。复现时需核对字典及稀疏编码的额外存储、编码与读取开销，以及不同上下文长度下的质量—内存—延迟权衡。 该论文的主要研究对象是 LLM 推理缓存，并非 EEG 表征学习或 BCI 解码。摘要未提供神经信号任务中的验证，也未建立与 EEG 瓶颈的具体机制对应，因此不能据此推断其具有 BCI 有效性；已有 EEG 相关工作尚未检索确认。