面向 5G 边缘设备的基于编译器的高效 CNN 模型构建
Compiler-Based Efficient CNN Model Construction for 5G Edge Devices
基于摘要分析。本文研究面向 5G 移动平台的高效 CNN 构建,提出无需模型训练的稀疏核(sparse kernels,SKs)设计搜索方案,并通过模型转换与编译器原型,将搜索得到的设计自动应用于已有模型。研究对象是通用 CNN 的结构与部署效率,而非 EEG 或 BCI 信号解码。 核心机制是从组成、性能和效率三个方面缩减 SK 设计空间,并使用易于测量的 information field 作为搜索过程中的模型准确率预测量,从而取消搜索方案中的模型训练。摘要未给出该量的定义、计算方式及其与准确率关联的验证范围,不能据此认定最终模型也无需训练。作者还对搜索所得设计进行效率分析,据此提出模型转换方案,以减少已有模型的参数量或提高准确率;编译器原型以已有模型源代码为输入,自动化这一过程。 作者报告,采用所搜索 SK 设计的模型在准确率和效率方面优于 ResNets 等对照网络;模型转换方案可在参数量相同的条件下提高准确率,或在准确率相同的条件下提高效率。摘要未提供数据集、任务、具体数值、效率指标及硬件测量条件,因而无法判断收益来自参数压缩、计算量降低还是实际运行加速。实验协议、消融及统计信息尚未验证,编译器支持范围和复现条件亦需核对全文。 平台推测(待验证):其可能对应 EEG 边缘部署中 CNN 的参数与计算资源瓶颈,而非直接解决解码准确率问题。迁移假设是 SK 搜索和模型转换能够适配 EEG 的时间、通道结构;可复用搜索与自动转换思路,但需改造核结构约束,并验证 information field 在低信噪比、小数据条件下是否仍能可靠排序候选模型。通道布局差异与跨被试变化可能使该代理量失效,稀疏结构也不必然带来设备实测加速。一个可检验的小实验是在固定 EEG 数据划分、训练预算和目标设备下,对同一 CNN 的原始版与转换版比较 Accuracy、参数量和推理延迟,并核对代理量与训练后 Accuracy 的排序一致性。已有 EEG 相关工作尚未检索确认。
值得核对其以 information field 替代搜索阶段模型训练的准确率代理机制,以及自动化稀疏核改造在参数量与准确率约束下的收益;其对 EEG 部署的价值尚未验证。
来源:OpenReview · State space models · openreview.net