引入动量因子的双自适应自然梯度算法  

A Dual Adaptive Natural Gradient Algorithm with Momentum Factors

作　　者：李康[1] 刘辉[1] 罗彬[1] 

机构地区：[1]湖南师范大学物理与信息科学学院,中国长沙410081

出　　处：《湖南师范大学自然科学学报》2015年第1期54-57,共4页Journal of Natural Science of Hunan Normal University

基　　金：湖南省科学技术厅基金资助项目(2012GK3121)

摘　　要：为克服自然梯度算法收敛速度和稳态误差之间的矛盾,提出了一种引入动量因子的双自适应自然梯度算法,该算法将动量因子分别引入到自然梯度算法的步长因子和分离矩阵中,并根据实时分离度自适应调整动量因子,从而在加快算法收敛速度的同时,降低稳态误差.仿真实验证明,提出的新算法的性能明显优越与固定步长和自适应步长自然梯度算法.To overcome the contradiction between convergence rate and steady-state error in the natural gradient algorithm, a dual adaptive natural gradient algorithm with momentum factors is proposed. In this algorithm, the momentum factors are introduced into the natural gradient algorithm step-size parameter and the separation matrix, which automatically depending on separation degree. Therefore, the new algorithm achieves the purpose of speed up the convergence rate while reducing the steady-state error. Simulation results show that the new algorithm performance is significantly better than fix-step-size and adaptive-step natural gradient algorithm.

关 键 词：动量因子 分离度 自然梯度 收敛速度 稳态误差 

分 类 号：TN919.8[电子电信—通信与信息系统]