提高BP小波神经网络收敛速度的研究  

STUDY ON IMPROVING THE CONVERGENCE SPEED OF BP WAVELET NEURAL NETWORKS

作　　者：李金屏[1] 何苗[1] 刘明军[2] 杨波[1] 

机构地区：[1]济南大学信息科学与工程学院,济南250022 [2]济南大学计算中心,济南250022

出　　处：《模式识别与人工智能》2002年第1期28-35,共8页Pattern Recognition and Artificial Intelligence

基　　金：国家自然科学基金(69902005);山东省自然科学基金青年基金(Q98G02151)

摘　　要：介绍了小波神经网络对于一维数据进行有损压缩和特征提取的数学基础,重点讨论了BP小波神经网络收敛速度的改进方法.新的改进措施包括:1.优化选取初始网络参数和信号标度变换.2.适当改进常用的自适应调节学习率方法.3.利用差值逐步逼近技术对原始数据进行多次压缩.为了尽可能提高压缩比,在保证相对误差不变的情况下,还讨论了变结构的小波神经网络,能够自动删去贡献很小的隐层神经元.仿真计算表明,在满足相对误差要求的情况下,这些新的改进方法能够获得较快的收敛速度和较高的压缩比.Mathematical foundation of using wavelet neural networks in lossy compression and feature extraction of one-dimension data is discussed, then improvements of the convergence speed of BP wavelet neural networks are studied. The following new measures are taken: 1)Optimization of initial network parameters and signal scaling; 2) Improving the ordinary adaptive adjustment method; 3) Repeated approximation. In order to obtain higher compression rate, the variable-structure wavelet neural networks, which can delete the neurons of trivial contribution is discussed under the constraint of keeping the relative error less than a given value. Simulation results indicate that the improvements bring higher compression rate and faster convergence speed while the relative error is satisfied.

关 键 词：信号标度变换 自适应调节 神经网络 BP算法 小波分析 收敛速度 

分 类 号：TP183[自动化与计算机技术—控制理论与控制工程]