椭球基函数神经网络的混合学习算法  

A Hybrid Learning Algorithm for Elliptical Basis Function Neural Networks

作　　者：邢红杰[1,2,3] 王泳[1,2] 胡包钢[1,2] 

机构地区：[1]中国科学院自动化研究所模式识别国家重点实验室,北京100080 [2]中国科学院研究生院,北京100080 [3]河北大学数学与计算机科学学院,保定071002

出　　处：《模式识别与人工智能》2008年第2期148-154,共7页Pattern Recognition and Artificial Intelligence

基　　金：国家自然科学基金资助项目(No.60275025,60121302)

摘　　要：提出一种训练椭球基函数神经网络(EBFNN)的混合学习算法.此算法首先使用期望最大化算法初始化EBFNN中椭球基函数节点的参数,而网络的连接权重和偏差项则用线性最小二乘方法进行初始化.然后用梯度下降法对EBFNN中所有参数同时进行优化.与其他3个相关的模型相比,用混合学习方法训练的梯度下降椭球基函数神经网络(GDEBFNN)能够取得更优的分类性能.此外,与支持向量机对比表明,GDEBFNN取得与之接近的泛化能力.与基于Adaboost的决策树模型比较表明,GDEBFNN可以取得更优的泛化性能.A hybrid learning method for the elliptical basis function neural network （EBFNN） is presented. Firstly, the parameters of elliptical basis function （EBF） units in the hidden layer of the EBFNN are initialized by the expectation-maximization （EM） algorithm, while the connection weights plus bias term is initialized by the linear least-squared method. Then, the gradient descent based optimization procedure adjusts all the parameters simultaneously. The comparison results show that the gradient descent elliptical basis function neural network （GDEBFNN） trained by the proposed hybrid learning method upon the test datasets has higher accuracy than the other three related models. Compared with support vector machine （SVM）, the GDEBFNN can achieve comparable generalization ability. Moreover, the GDEBFNN obtains better generalization performance than the decision tree constructed by the Adaboost method.

关 键 词：椭球基函数神经网络(EBFNN) 混合学习算法 全协方差矩阵 椭球基函数 

分 类 号：TP183[自动化与计算机技术—控制理论与控制工程]