自适应迭代最小二乘支持向量机回归算法  

Adaptive and Iterative Training Algorithm of Least Square Support Vector Machine Regression

作　　者：杨滨[1] 杨晓伟[1,2] 黄岚[1] 梁艳春[1] 周春光[1] 吴春国[1,3] 

机构地区：[1]吉林大学计算机科学与技术学院,国家教育部符号计算与知识工程重点实验室,吉林长春130012 [2]华南理工大学理学院数学系,广东广州510640 [3]中国科学院自动化研究所模式识别国家重点实验室,北京100080

出　　处：《电子学报》2010年第7期1621-1625,共5页Acta Electronica Sinica

基　　金：国家自然科学基金(No.60803052,No.10872077);国家863高技术研究发展计划(No.2007AA04Z114,No.2009AA02Z307);欧盟项目(No.155776-EM-1-2009-1-IT-ERAMUNDUS-ECW-L12);吉林省科技发展计划(No.20080172,No.20080708,No.20070703);吉林大学“985”与“211”项目;吉林大学科学前沿与交叉学科创新项目(No.20093172,No.200810026)

摘　　要：基于最小二乘支持向量机回归算法,本文在前期工作的基础上进行了扩展,提出了更加详尽的自适应迭代最小二乘支持向量机回归算法.与标准的LSSVR相比,本文提出的算法在学习新样本的时候利用了已有的学习结果,可以快速获得新的学习机.模拟结果表明,自适应迭代最小二乘支持向量机回归算法能够自适应地确定支持向量的数目,保留了QP方法在训练SVM时支持向量的稀疏性,在相近的回归精度下,该算法极大地提高了标准LSSVR学习的速度.A novel adaptive and iterative training algorithm of least square support vector machine regression（AILSSVR） is presented based on the least square support vector machine regression（LSSVR） and the proof for inverse of an order-reduced matrix is given.Compared to the standard LSSVR,the proposed algorithm takes advantage of the previous training results when learning from a new sample;therefore,it can obtain a new learning machine efficiently.Numerical simulations demonstrate that AILSSVR can adaptively decide the number of support vectors and preserve the sparse property of support vectors in QP training methods.Under the similar regression accuracy,AILSSVR can speed up the learning process remarkably.

关 键 词：支持向量机 自适应 迭代 回归 最小二乘 

分 类 号：TP18[自动化与计算机技术—控制理论与控制工程]