基于梯度动力学的协同神经网络学习算法的改进  

THE IMPROVED LEARNING ALGORITHM OF SYNERGETIC NEURAL NETWORKS BASED ON GRADIENT DYNAMICS

作　　者：陈丽[1] 戚飞虎[1] 

机构地区：[1]上海交通大学信息安全工程学院,上海200030

出　　处：《计算机应用与软件》2005年第1期98-99,144,F003,共4页Computer Applications and Software

摘　　要：本文在研究协同神经网络梯度动力学过程的基础上 ,针对学习过程收敛速度缓慢的缺点 ,提出了一种改进的基于梯度动力学的协同神经网络学习算法。该算法分析了非平衡注意参数对学习过程的影响 ,简化了初始伴随向量的选取 ;并引入最优化理论 ,将该问题归结为求解非线性最优化问题 ,用共轭梯度法代替梯度下降法 ,加快了学习过程的收敛。通过对汉字图像库和人脸图像库的图像识别实验 ,表明该算法较之其他学习算法有较高的识别率 ,并能较快的收敛到极小值。An improved learning algorithm of synergetic neural networks is proposed after studying the synergetic gradient dynamics procession.The improved algorithm analyzes the effect of unbalanced attention parameter on study process,which reduces the complexity of initializing the adjoint vector,and then introduces optimization approach by using conjugate gradient algorithm instead of steepest decent algorithm.The experiments of the recognition of Chinese characters and face images show that the new algorithm is proved more effective in convergence property and recognition rate.

关 键 词：学习算法 神经网络 归结 协同 图像识别 人脸图像库 算法分析 收敛 梯度 非线性最优化 

分 类 号：TP183[自动化与计算机技术—控制理论与控制工程] TP391.41[自动化与计算机技术—控制科学与工程]