ann神经网络参数优化方法【点击查看详情】
1、随机梯度下降法(SGD):随机梯度下降法(SGD)的思想是,在每一次迭代中,根据梯度信息对ann神经网络参数进行更新。缺点是收敛速度慢,容易陷入局部最优解等。2、动量法:动量法是一种在优化领域常用的方法。引入一个动量项,在更新神经网络参数时,将上一次的更新方向考虑进来,可以加速收敛并且避免陷入局部最优解。
相关视频/文章