卷积神经网络的损失最小训练后参数量化方法OA北大核心CSTPCD
针对数据敏感性场景下模型量化存在数据集不可用的问题,提出了一种不需要使用数据集的模型量化方法。首先,依据批归一化层参数及图像数据分布特性,通过误差最小化方法获得模拟输入数据;然后,通过研究数据舍入特性,提出基于损失最小化的因子动态舍入方法。通过对GhostNet等分类模型及M2Det等目标检测模型进行量化实验,验证了所提量化方法对图像分类及目标检测模型的有效性。实验结果表明,所提量化方法能够使模型大小减少75%左右,在基本保持原有模型准确率的同时有效地降低功耗损失、提高运算效率。
张帆;黄赟;方子茁;郭威
国家数字交换系统工程技术研究中心,河南郑州450002信息工程大学,河南郑州450001 紫金山实验室,江苏南京211111紫金山实验室,江苏南京211111 东南大学网络空间安全学院,江苏南京211189国家数字交换系统工程技术研究中心,河南郑州450002
信息技术与安全科学
卷积神经网络批归一化模拟输入数据动态舍入
《通信学报》 2022 (4)
P.114-122,9
评论