跳到正文
arXiv · 学习目标与优化· Fan Gao; Wei Su; Juntong Fan; Renfeng Peng; Hongyu Liu; Jinqiao Duan; Feng-Lei Fan·· 2 天前精选AI 评分75

动力学即编码:通过动态系统进行模型压缩

Dynamics as Code: On Model Compression via Dynamic System

AI 导读

基于摘要分析。本文研究预训练神经网络在内存与计算约束下的模型压缩,将已有动态系统(DS)权重编码范式扩展为统一框架,并给出 irrational winding 的有限轨迹覆盖界。其核心是以动态系统轨迹中的状态索引表示高维权重向量,解压时由对应状态恢复权重,而非直接采用剪枝、量化、知识蒸馏或低秩分解。 理论方面,作者证明:在满足 Diophantine 条件时,irrational winding 中包含 M = O(ε^{-(d+ν)}) 个状态的有限轨迹可构成 d 维权重空间的 ε-net,从而联系状态分辨率、解压误差与压缩率。该界依赖明确条件,不能直接等同于任意模型权重的实用压缩保证;ν 的具体定义、适用权重域及常数尚需正文核对。 方法方面,框架统一了空间填充曲线(Hilbert、Peano、Morton/Z-order、Snake)、混沌系统(Lorenz)、同余与伪随机生成器(LCG、PCG)及低差异序列(Halton)。作者引入 KD-tree 与 coordinate-template 加速以扩展至大模型,并利用异常值识别控制误差。权重分组方式、状态索引存储成本、异常值处理细节及各系统的选择条件尚未验证。 作者报告,在 ResNet-18、Qwen2.5-1.5B 和 Qwen1.5-7B 实验中,该方法无需事后重训练即可取得有竞争力的压缩率,并具有可控解压误差和灵活的状态空间设计。摘要未提供具体压缩率、任务性能、数据集、对照基线或运行开销;实验协议、消融及统计信息尚未验证。复现时应同时核对编码搜索成本、解压延迟、额外元数据与任务性能,而不能仅依据权重重构误差判断部署价值。 平台推测(待验证):若用于 EEG 模型部署,可复用轨迹索引编码与权重恢复模块,但需按模型权重尺度和分组方式调整状态空间,并评估低信噪比下任务输出对权重扰动的敏感性。小模型的索引和异常值存储开销可能抵消压缩收益。可在固定 Cross-subject 划分的已有 EEG 分类模型上,不重训练地比较压缩前后 Accuracy、存储量与推理延迟,检验该假设。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对的是动态系统轨迹索引如何在无需事后重训练的条件下实现权重压缩,以及其理论误差界能否转化为包含索引搜索、解压开销和任务性能的实际收益。

来源:arXiv · 学习目标与优化 · arxiv.org