跳到正文
arXiv · 学习目标与优化· Se Un Park; Kyungkeon Chung; Huigeol Kim; Junyoung Park·· 4 天前精选AI 评分78

面向硬件高效限速标志识别的重放剪枝与低比特整数推理

Replay Pruning and Few-Bit Integer Inference for Hardware-Efficient Speed-Sign Recognition

AI 导读

基于摘要分析。研究面向车载摄像头 SoC 上限速标志识别的存储、计算和能耗约束,提出检测器剪枝与分类器低比特整数推理相结合的两阶段系统;主要研究对象是道路视觉识别,而非 EEG 或 BCI。 检测器采用含 ReLU 与 hard-sigmoid 算子的 YOLO 系列网络。channel replay 先通过迭代剪枝级联确定待删除通道,再将记录的删除操作重放到原始任务训练网络(parent),最后进行一次连续的知识蒸馏恢复。作者报告:在 YOLOv5n 上,该方法移除 60.3% 的参数并保持 parent 的准确性;在五个匹配随机种子的验证集 mAP50-95 比较中,优于迭代剪枝和从头训练,逐步变体 per-step replay 是准确性最高的剪枝方法。在 YOLOv8n 上,作者报告 replay 与 per-step replay 均优于其他比较方法及未剪枝 parent,摘要未给出具体差值。 分类器为五层、18k 参数的 CNN,其推理及两类 YOLO 检测头的后处理均仅用整数运算。作者报告,W4A8(4-bit 权重、8-bit 激活)分类器使用 12.1 KB 片上存储并达到 FP32 准确性;可执行流式模型在全部 9,850 个测试裁剪图像上复现运行时的 INT8 类别预测。Jetson AGX Orin 测试中,INT8 仅在 TensorRT 的 implicit formulation 下快于 FP16,replay 检测器在 DLA 上最快。仅使用公开数据训练的完整系统含 0.72 M 参数,在留出的车载摄像头数据上,以 90% precision 识别 95.2% 的标志,并达到每秒 94 帧。具体数据集、划分、端到端计时边界、消融及统计信息尚未验证。 平台推测(待验证):其可迁移假设是将剪枝路径搜索与原网络恢复分离,用于压缩边缘 EEG 分类器,而非迁移道路识别任务本身。可复用通道删除记录与知识蒸馏恢复流程,但需适配 EEG 网络结构、任务监督及量化校准数据;低信噪比、跨被试差异和小数据可能使剪枝路径不稳定或损伤弱信号特征。一个可证伪的小实验是在固定被试内划分和参数预算下,对比 replay 与迭代剪枝,并分别测量准确性及目标设备延迟。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其将剪枝路径搜索与原网络恢复分离的 channel replay 机制,以及低比特整数推理的逐样本一致性验证;作者同时报告了推理框架与硬件执行路径对实际速度的影响。

来源:arXiv · 学习目标与优化 · arxiv.org