基于递推最小二乘法的多步时序差分学习算法  

Multi-step temporal difference learning algorithm based on recursive least-squares method

作　　者：陈学松[1] 杨宜民[2] 

机构地区：[1]广东工业大学应用数学学院,广州510006 [2]广东工业大学自动化学院,广州510006

出　　处：《计算机工程与应用》2010年第8期52-55,共4页Computer Engineering and Applications

摘　　要：强化学习是一种重要的机器学习方法。为了提高强化学习过程的收敛速度和减少学习过程值函数估计的误差,提出了基于递推最小二乘法的多步时序差分学习算法(RLS-TD(λ))。证明了在满足一定条件下,该算法的权值将以概率1收敛到唯一解,并且得出和证明了值函数估计值的误差应满足的关系式。迷宫实验表明,与RLS-TD(0)算法相比,该算法能加快学习过程的收敛,与传统的TD(λ)算法相比,该算法减少了值函数估计误差,从而提高了精度。Reinforcement learning is one of most important machine learning methods.In order to solve the problem of slow convergence speed and the error of value function in reinforcement learning systems,a multi-step Temporal Difference（TD（λ）） learning algorithm using Recursive Least-Squares （RSL） methods （RLS-TD （λ）） is proposed.The proposed algorithm is based on RLS-TD（0） ,its convergence is proved,and its formula of error estimation is obtained.The experiment on maze problem demonstrates that the algorithm can speed up the convergence of the learning process compared with RLS-TD（0）,and improve the learning precision compared with TD（λ）.

关 键 词：强化学习 时序差分 最小二乘 收敛 RLS—TD(λ)算法 

分 类 号：TP18[自动化与计算机技术—控制理论与控制工程]