Hits:

Indexed by:会议论文

Date of Publication:2005-10-17

Page Number:368-372

Key Words:带动量项;线性输出;BP神经网络;收敛性;模式分类;函数逼近;权值

Abstract:线性输出的BP神经网络已被成功应用于解决模式分类和函数逼近等问题,有关BP学习算法的收敛性研究可参见文献.但是,传统BP算法具有两大缺点:收敛速度慢和容易陷入局部极小.一种常见的改进策略是在它的权值更新规则中加入动量项,即上一步权值改变量的某一倍数,使得当前步的权值改变不仅受到梯度下降方向的影响,而且与前一次的权值改变有关(即惯性作用).大量的数值实验表明,与传统的BP算法相比,带动量项的BP算法犹如低通滤波器平滑了权值变化的轨迹,进而达到稳定算法和加速收敛的目的.另外,一些文章用类比方法或者概率的方法也给出了带动量项的BP算法收敛性的近似分析或者说明.本文的主要目的是给出线性输出带动量项的BP算法的确定性收敛结果以及严格的数学证明。