基于极限学习的深度学习算法  

Improved deep learning algorithm based on extreme learning machine

作　　者：赵志勇[1] 李元香[1] 喻飞[1] 易云飞[1,2] 

机构地区：[1]武汉大学软件工程国家重点实验室,湖北武汉430072 [2]河池学院计算机与信息工程学院,广西宜州546300

出　　处：《计算机工程与设计》2015年第4期1022-1026,共5页Computer Engineering and Design

基　　金：国家自然科学基金项目(61070009;61170305);广西教育厅科研基金项目(200103YB136);国家大学生创新创业训练计划基金项目(201310605017;201310605018)

摘　　要：在使用传统的全局优化方法对整个深度信念网(DBN)进行优化的过程中需要大量的时间,且基于梯度的优化方法易陷入局部最优。为加快DBN的训练速度,将极限学习机(ELM)运用到DBN模型的训练中。分别将传统DBN与改进后的IDBN算法应用在手写体数据集MNIST、Binary Alphadigits数据集和USPS数据集上,实验结果表明,改进后的IDBN算法能够保证已有的学习准确性,提高学习的速度。An amount of time is needed to optimize the whole deep belief network（DBN）using the traditional global optimization algorithms and the fine-tuning method based on gradient used in DBN may stick into local optimum.To accelerate the learning process of DBN,extreme learning machine（ELM）was applied into the learning process of DBN.IDBN was compared with DBN on the MINST dataset,Binary Alphadigits dataset and the USPS dataset,and the result shows that IDBN has a higher learning speed with a reliable learning accuracy.

关 键 词：深度学习 极限学习机 机器学习 神经网络 深度信念网 

分 类 号：TP181[自动化与计算机技术—控制理论与控制工程]