求解非线性回归问题的Newton算法  

A Newton Algorithm for Nonlinear Regression

作　　者：韩敏[1] 王亚楠[1] 

机构地区：[1]大连理工大学电子信息与电气工程学部,辽宁大连116024

出　　处：《计算机学报》2010年第5期841-846,共6页Chinese Journal of Computers

基　　金：国家自然科学基金(60674073);国家"八六三"高技术研究发展计划项目基金(2007AA04Z158);国家科技支撑计划资助项目(2006BAB14B05);国家"九七三"重点基础研究发展规划项目基金(2006CB403405)资助~~

摘　　要：针对大规模非线性回归问题,提出基于静态储备池的Newton算法.利用储备池搭建高维特征空间,将原始问题转化成与储备池维数相关的线性支持向量回归问题,并应用Newton算法求解.鲁棒损失函数的应用可抑制异常点对预测结果的干扰.通过与SVR(Support Vector Regression)及储备池Tikhonov正则化方法比较,验证了所提方法的快速性、较高的预测精度和较好的鲁棒性.A Newton algorithm is adopted in static reservoir for large scale nonlinear regression in the paper. Based on high-dimension ＇reservoir＇ state space which translates the nonlinear regression to linear support vector regression（SVR）, the Newton optimization is investigated. Meantime, the robust loss functions are adopted to restrain the interference of outliers. Comparisons with SVR（Support Vector Regression） and ＇reservoir＇ Tikhonov regularization method in experiment, the results demonstrate the proposed algorithm has a fast operation speed, high prediction accuracy and good robustness.

关 键 词：支持向量回归 静态储备池 Newton算法 鲁棒性 

分 类 号：TP18[自动化与计算机技术—控制理论与控制工程]