首页|期刊导航|通信学报|卷积神经网络的损失最小训练后参数量化方法

卷积神经网络的损失最小训练后参数量化方法OA北大核心CSTPCD

中文摘要

针对数据敏感性场景下模型量化存在数据集不可用的问题,提出了一种不需要使用数据集的模型量化方法。首先,依据批归一化层参数及图像数据分布特性,通过误差最小化方法获得模拟输入数据;然后,通过研究数据舍入特性,提出基于损失最小化的因子动态舍入方法。通过对GhostNet等分类模型及M2Det等目标检测模型进行量化实验,验证了所提量化方法对图像分类及目标检测模型的有效性。实验结果表明,所提量化方法能够使模型大小减少75%左右,在基本保持原有模型准确率的同时有效地降低功耗损失、提高运算效率。

张帆;黄赟;方子茁;郭威

国家数字交换系统工程技术研究中心,河南郑州450002信息工程大学,河南郑州450001 紫金山实验室,江苏南京211111紫金山实验室,江苏南京211111 东南大学网络空间安全学院,江苏南京211189国家数字交换系统工程技术研究中心,河南郑州450002

信息技术与安全科学

卷积神经网络批归一化模拟输入数据动态舍入

《通信学报》 2022 (4)

P.114-122,9

评论