跳到正文
arXiv · 多模态与生成机制· Shenli Zheng; Zhou Fang; Yuan Du; Yijiang Liu; Li Du·· 19 小时前精选AI 评分75

SPAR:面向视觉-语言-动作模型的结构剪枝与动作恢复

SPAR: Structural Pruning and Action Recovery for Vision-Language-Action Models

AI 导读

基于摘要分析。本文研究机器人机载算力有限时,如何压缩视觉-语言-动作(VLA)模型并恢复操作性能,提出 SPAR(Structural Pruning and Action Recovery):先通过剪枝感知调优压缩 LLM 骨干,再用强化学习(RL)恢复策略性能。主要研究对象是机器人操作策略,而非 EEG 解码或 BCI。 机制上,SPAR 同时剪除 LLM 骨干的隐藏维度与前馈网络中间维度,随后进行 RL 恢复,针对激进压缩后的性能下降难以仅靠监督微调恢复这一问题。摘要未提供维度选择准则、调优目标、RL 算法及奖励设计,具体实现尚未验证。 作者报告,在 π₀.₅ 上,语言骨干参数量从 2.34B 降至 0.09B,完整模型从 3.37B 降至 1.12B,分别移除约 96% 与 67% 的参数。在这一压缩设置下,RL 将四个 LIBERO suite 的平均成功率从 84.55% 提升至 93.45%,增加 8.90 个百分点;压缩策略相对未剪枝模型实现 1.98 倍完整策略推理加速。该成功率变化反映压缩后 RL 恢复的收益,不能据此认定其已达到或超过未剪枝策略的操作性能。测试硬件、计时口径、各 suite 结果、训练与评估划分、消融及统计信息尚未验证。 平台推测(待验证):其可借鉴机制是联合压缩隐藏与中间维度,并以任务目标恢复性能,但机器人交互奖励与 EEG 监督解码的数据结构不同,原结果不构成 BCI 有效性的证据。若用于 EEG Transformer 压缩,可复用结构剪枝思路,但恢复目标需重新设计;低信噪比、跨被试差异和小数据可能使被剪维度中的弱判别信息难以恢复。一个可证伪的小实验是在固定跨被试划分、相同压缩预算下,对比未剪枝、剪枝后监督微调及任务目标恢复,联合评估解码指标与实测延迟。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对的是结构剪枝与剪枝后 RL 恢复的组合:作者在 π₀.₅ 的高压缩设置下同时报告了 LIBERO 操作成功率改善与完整策略推理加速,但其对 EEG/BCI 的适用性尚未验证。

来源:arXiv · 多模态与生成机制 · arxiv.org