跳到正文
只看在线与系统算法#Compression
10月9日周五
  1. arXiv · 泛化与分布偏移77

    SparseDecoding：面向准确高效 LLM 推理的解码感知剪枝

    基于摘要分析。该研究针对 LLM 解码阶段受内存带宽限制，以及固定自然文本剪枝校准与模型自生成序列之间的分布偏移，提出 SparseDecoding：用稠密模型自回归生成时的逐层激活校准剪枝，并结合面向解码的稀疏计算内核，提高剪枝后的生成质量与推理效率。 机制上，作者指出，常见基于 Hessian 的逐层免训练剪枝使用预先收集的自然文本计算校准信息，而实际解码输入包含模型自生成 token；两类序列对应的 Hessian 与激活分布存在差异，可能损害剪枝模型的生成表现。SparseDecoding 从稠密模型自回归生成过程收集逐层激活并构建校准矩阵，明确排除 prefill 阶段，使剪枝目标更贴近解码阶段的激活。具体剪枝目标、Hessian 计算方式、稀疏率与校准样本规模尚未验证。 系统上，该方法针对解码中占主导的稀疏矩阵–向量乘法（SpMV），而非主要优化稀疏矩阵–矩阵乘法（SpMM），设计采用位掩码索引与固定步长遍历的 N:M 稀疏内核。其实际收益需要结合稀疏模式、生成长度、批大小及内核调用开销核对，不能仅由非零参数减少推断。 作者报告，在 Llama-3.1-8B、Llama-3.3-70B、Qwen3-14B / 32B 的长文本生成基准上，该方法持续优于标准固定文本校准，并在 A100 GPU 上获得最高 1.48 倍的端到端实际墙钟解码加速。摘要未给出基准名称、生成质量指标、加速峰值对应模型与配置，以及计时对照的具体设置；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其可借鉴之处是让压缩校准数据匹配部署时的输入与激活分布，但这依赖自回归生成这一数据结构，不等同于已验证的 EEG/BCI 域适应方案。摘要未提供直接的 EEG 迁移机制或验证，已有 EEG 相关工作尚未检索确认。复现需取得校准生成流程、剪枝配置、内核实现及硬件计时协议；代码是否公开尚未验证。

    阅读价值：值得核对其生成阶段校准能否缓解剪枝时的激活分布偏移，以及 N:M 稀疏矩阵–向量内核在何种配置下带来实际解码加速；摘要提供了明确机制，但效果边界尚未验证。

10月8日周四
  1. arXiv · 学习目标与优化75

    动力学即编码：通过动态系统进行模型压缩

    基于摘要分析。本文研究预训练神经网络在内存与计算约束下的模型压缩，将已有动态系统（DS）权重编码范式扩展为统一框架，并给出 irrational winding 的有限轨迹覆盖界。其核心是以动态系统轨迹中的状态索引表示高维权重向量，解压时由对应状态恢复权重，而非直接采用剪枝、量化、知识蒸馏或低秩分解。 理论方面，作者证明：在满足 Diophantine 条件时，irrational winding 中包含 M = O(ε^{-(d+ν)}) 个状态的有限轨迹可构成 d 维权重空间的 ε-net，从而联系状态分辨率、解压误差与压缩率。该界依赖明确条件，不能直接等同于任意模型权重的实用压缩保证；ν 的具体定义、适用权重域及常数尚需正文核对。 方法方面，框架统一了空间填充曲线（Hilbert、Peano、Morton/Z-order、Snake）、混沌系统（Lorenz）、同余与伪随机生成器（LCG、PCG）及低差异序列（Halton）。作者引入 KD-tree 与 coordinate-template 加速以扩展至大模型，并利用异常值识别控制误差。权重分组方式、状态索引存储成本、异常值处理细节及各系统的选择条件尚未验证。 作者报告，在 ResNet-18、Qwen2.5-1.5B 和 Qwen1.5-7B 实验中，该方法无需事后重训练即可取得有竞争力的压缩率，并具有可控解压误差和灵活的状态空间设计。摘要未提供具体压缩率、任务性能、数据集、对照基线或运行开销；实验协议、消融及统计信息尚未验证。复现时应同时核对编码搜索成本、解压延迟、额外元数据与任务性能，而不能仅依据权重重构误差判断部署价值。 平台推测（待验证）：若用于 EEG 模型部署，可复用轨迹索引编码与权重恢复模块，但需按模型权重尺度和分组方式调整状态空间，并评估低信噪比下任务输出对权重扰动的敏感性。小模型的索引和异常值存储开销可能抵消压缩收益。可在固定 Cross-subject 划分的已有 EEG 分类模型上，不重训练地比较压缩前后 Accuracy、存储量与推理延迟，检验该假设。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对的是动态系统轨迹索引如何在无需事后重训练的条件下实现权重压缩，以及其理论误差界能否转化为包含索引搜索、解压开销和任务性能的实际收益。

10月5日周一
  1. arXiv · 学习目标与优化63

    生物医学领域神经机器翻译的模型压缩研究

    基于摘要分析。研究针对专业术语密集、平行语料有限的法语到英语生物医学翻译，联合考察知识蒸馏与量化，并比较多种微调策略，以提升压缩学生模型的领域适应能力与部署效率。 知识蒸馏通过大教师模型向较小学生模型传递知识，但领域平行数据稀缺可能限制迁移效果；量化通过降低权重与激活的数值精度降低计算开销，但精度下降可能损害翻译质量。摘要以32-bit到8-bit说明量化概念，不能据此确认本研究实际采用的位宽。研究的主要关注点是两种压缩技术与领域微调的组合，而非单独评估模型规模缩减。 作者报告，在法语到英语生物医学翻译实验中，相对于原始基线，联合蒸馏与量化的学生模型大小减少69%，推理速度提高98.21%，CO2排放减少98.46%，且未牺牲翻译质量。摘要未说明基线模型身份、数据集、训练与测试划分、翻译质量指标、硬件、推理负载及排放核算方式，因此这些结果仅能作为该实验条件下的作者报告，尚不能确认其可复现性或泛化范围。蒸馏目标、量化配置、微调策略差异、实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若EEG任务已有可靠教师模型，可假设蒸馏与量化有助于压缩部署端解码器；但本研究依赖文本平行语料与翻译监督，不能直接证明BCI收益。可复用的是教师—学生压缩流程，需改造输入表示、任务目标和校准数据。EEG低信噪比、跨被试及通道差异、小样本条件可能使教师误差传递或量化损失加剧。一个可检验的小实验是在固定Cross-subject划分与相同部署硬件下，对比原模型、仅蒸馏、仅量化和联合压缩，测量同一任务指标、模型大小、延迟及能耗。已有EEG相关工作尚未检索确认。