张超 (教授)

教授   博士生导师   硕士生导师

性别:男

毕业院校:大连理工大学

学位:博士

所在单位:数学科学学院

学科:计算数学

办公地点:创新园#A1024

联系方式:0411-84708351

电子邮箱:chao.zhang@dlut.edu.cn

Pi-sigma神经网络的带动量项的异步批处理梯度算法收敛性

点击次数:

论文类型:期刊论文

发表时间:2008-01-15

发表刊物:应用数学

收录刊物:PKU、ISTIC、CSCD

卷号:21

期号:1

页面范围:207-212

ISSN号:1001-9847

关键字:Pi-sigma神经网络;异步批处理梯度算法;动量项;单调性;收敛性

摘要:本文将动量项引入到训练Pi-sigma神经网络的异步批处理的梯度算法中,有效的改善了算法的收敛效率,并从理论上对该算法的收敛性进行研究,给出了误差函数的单调性定理及该算法的弱收敛和强收敛性定理.计算机仿真实验亦验证了带动量项的异步批处理梯度算法的有效性和理论分析的正确性.

发表时间:2008-01-15

上一条: Convergence of Batch Split-Complex Backpropagation Algorithm for Complex-Valued Neural Networks

下一条: Convergence of Online gradient algorithm with Stochastic inputs for Pi-Sigma neural networks