基于梯度下降算法的神经网络模型研究  

Neural network model research based on gradient descent algorithm

作　　者：杨涛[1] 刘文杰[2] 丁宁[2] 

机构地区：[1]大连理工大学体育教学部,辽宁116000 [2]大连理工大学软件学院,辽宁116000

出　　处：《网络安全技术与应用》2013年第4期75-77,共3页Network Security Technology & Application

基　　金：超启发式算法的多视角分析及应用研究;国家自然科学基金(61175062)

摘　　要：神经网络的研究与应用已经取得了巨大的成功,但是在网络的收敛性和稳定性方面还有很多问题。本文对神经网络的核心算法BP算法进行了改进,使用梯度下降算法对神经网络的原始输入变量进行预处理,选择输入变量的主成分作为网络输入,使变量维度和相关性同时减小,从而实现神经网络的结构简化、高收敛性和高稳定性。The research and application of neural network has achieved great success,but the network convergence and stability also has many problems.Article for the core algorithm of the BP neural network algorithm was improved,using the gradient descent algorithm to pretreatment of the original input variables of neural network,input variables selection principal component as the network input,on the one hand,reduced the input dimension,eliminates the relevance of each input variable.On the other hand improves the convergence and stability of the neural network,and simplify the structure of neural network.

关 键 词：神经网络 BP算法 梯度下降 

分 类 号：TP183[自动化与计算机技术—控制理论与控制工程]