多层前向神经网络的自适应禁忌搜索训练  

Applying An Adaptive Strategy-Based Tabu Search to Neural Network

作　　者：贺一[1] 刘光远[2] 雷开友[1] 贺三[3] 邱玉辉[1] 

机构地区：[1]西南师范大学计算机与信息科学学院 [2]西南师范大学电子信息工程学院,重庆400715 [3]西南石油学院,成都610500

出　　处：《计算机科学》2005年第6期118-120,共3页Computer Science

基　　金：本文受到教育部科学技术重点项目(No.104262);重庆市科委基金(2003-7881)

摘　　要：针对BP算法属于局部优化算法的不足,提出了一种新的全局优化算法——自适应禁忌搜索作为前向神经网络的训练算法。该算法通过邻域和候选集的相互配合,动态地调整候选集中分别用于集中性搜索与多样性搜索的元素个数,提高了算法运行的质量和效率。以经典的异或问题(XOR)为例,进行了对比研究。实验结果表明,该算法与BP算法相比明显提高了网络的收敛概率和收敛精度。Aiming at BP algorithm's drawbacks that it is essentially a local optimization algorithm,a novel and global optimication algorithm,Adaptive Tabu Search,is proposed to train feed-forward neural networks. This algorithm im- proves the quality and efficiency of training neural network by adjusting dynamically the numbers of intensification el- ements and diversification elements in candidate list and by the cooperating of neighborhood and candidate list. Taking the classical XOR problem as an example,a compare investigation is implemented. It shows that this algorithm has obviously superior convergence rate and precision compared to the BP algorithm.

关 键 词：多层前向神经网络 禁忌搜索 自适应 局部优化算法 全局优化算法 BP算法 训练算法 元素个数 异或问题 对比研究 收敛精度 候选集 多样性 集中性 

分 类 号：TP183[自动化与计算机技术—控制理论与控制工程] O224[自动化与计算机技术—控制科学与工程]