深度学习算法的激活函数研究OA
Research on Activation Function of Deep Learnimg Algorithm
作为深度学习算法中重要的环节,激活函数可以为神经网络引入非线性因素.大量学者通过提出或改进激活函数的方法在一定程度上提高了算法的优化及泛化能力.研究了现阶段的激活函数,将激活函数大致分为S系激活函数和ReLU系激活函数,从不同激活函数的功能特点和存在的饱和性、零点对称和梯度消失及梯度爆炸的现象进行研究分析,针对Sigmoid,Tanh,ReL,P-ReLU,L-ReLU等典型激活函数分别应用在卷积神经网络(Covolutional Neural …查看全部>>
张有健;陈晨;王再见
安徽师范大学 物理与电子信息学院,安徽 芜湖241002安徽省智能机器人信息融合与控制工程实验室,安徽 芜湖241002安徽师范大学 物理与电子信息学院,安徽 芜湖241002
信息技术与安全科学
激活函数卷积神经网络循环神经网络深度学习
《无线电通信技术》 2021 (1)
115-120,6
粮食信息处理与控制教育部重点实验室开放基金( KFJJ-2018-205)