电子学报2024，Vol.52Issue(10)：P.3301-3311,11.DOI:10.12263/DZXB.20240435
面向Transformer模型边缘端部署的常用激活函数高精度轻量级量化推理方法
摘要
关键词
Transformer/全量化推理/GELU函数/Swish函数/分段二次多项式拟合分类
信息技术与安全科学引用本文复制引用
杨赟辉,程虎,魏敬和,刘国柱,桑贤侦..面向Transformer模型边缘端部署的常用激活函数高精度轻量级量化推理方法[J].电子学报,2024,52(10):P.3301-3311,11.基金项目
江苏省自然科学基金(No.K20211041,No.BK20211040,No.BE2021003-1,No.BE2023005-1) （No.K20211041,No.BK20211040,No.BE2021003-1,No.BE2023005-1）
国家自然科学基金(No.62174150)。 （No.62174150）
