增量和减量式标准支持向量机的分析  

Analysis for Incremental and Decremental Standard Support Vector Machine

作　　者：顾彬[1,2] 郑关胜[1,2,3] 王建东[3] 

机构地区：[1]南京信息工程大学江苏省网络监控中心,江苏南京210044 [2]南京信息工程大学计算机与软件学院,江苏南京210044 [3]南京航空航天大学计算机科学与技术系,江苏南京210016

出　　处：《软件学报》2013年第7期1601-1613,共13页Journal of Software

基　　金：国家自然科学基金重点项目(61139002;61232016);国家自然科学基金青年科学基金(61202137);江苏高校优势学科建设工程资助项目;南京信息工程大学科研启动费(20110433)

摘　　要：当训练数据每次发生改变时,例如增加或者删除部分数据,标准支持向量机的批处理算法就需要重新进行训练,这将不适合在线环境的计算.为了克服这个问题,Cauwenberghs和Poggio提出了增量和减量式标准支持向量机算法(C&P算法).通过理论分析,证明C&P算法的可行性和有限收敛性.可行性证明确保了C&P算法的每步调整都是可靠的,有限收敛性证明确保了C&P算法通过有限步调整最终收敛到问题的最优解.在此基础上,进一步通过实验结果验证了所给出的理论分析的结果.Batch implementations of standard support vector machine （SVM） are inefficient on an online setting because they must be retrained from scratch every time the training set is modified （i.e., adding or removing some data samples）. To solve this problem, Cauwenberghs and Poggio propose an incremental and decremental support vector classification algorithm （C＆P algorithm）. This paper proves the feasibility and finite convergence of the C＆P algorithm through theoretical analysis. The feasibility ensures that each adjustment step in the C＆P algorithm is reliable, and the finite convergence ensures that the C＆P algorithm can converge to the optimal solution within finite steps. Finally, the conclusions of the theoretical analysis are verified by the experimental results.

关 键 词：支持向量机 增量式学习 减量式学习 可行性分析 收敛性分析 

分 类 号：TP181[自动化与计算机技术—控制理论与控制工程]