一种基于信息熵数据修剪的支持向量机:EB-SVM  

EB-SVM:support vector machine based data pruning with informatior entropy

作　　者：曹林林[1,2] 张化祥[1,2] 王至超[1,2] 

机构地区：[1]山东师范大学信息科学与工程学院,山东济南250014 [2]山东省分布式计算机软件新技术重点实验室,山东济南250014

出　　处：《山东大学学报（理学版）》2012年第5期59-62,67,共5页Journal of Shandong University(Natural Science)

基　　金：国家自然科学基金资助项目(61170145);国家高等学校博士点专项基金资助项目(20113704110001);山东省自然科学基金和科技攻关计划项目(ZR2010FM021;2008B0026;2010G0020115)

摘　　要：支持向量机在处理分类问题时,如果两类数据重叠严重会造成分类器过学习,降低泛化性能。为此提出了一种基于信息熵的数据修剪支持向量机EB-SVM(entropy based-support vector machine),其主要思想是通过计算样例信息熵删除部分边缘数据和边界处混淆程度较高的样例以及噪声数据,用较少的训练样例学习SVM分类器。实验结果表明,该方法能够有效提高SVM的泛化性能。The generalization performance of SVM applied to classification problems will be reduced if different class data are seriously overlapped.A new approach EB-SVM（entropy based support vector machine） is presented to prune data based on the concept of the information entropy for support vector machine.The EB-SVM employs the information entropies of the training data to remove the patterns far from the boundaries and delete the noise and overlapped instances close to the boundaries,and then uses the pruned dataset to construct a SVM classifier.Experimental results show the EB-SVM takes less time than SVM and improves the classification accuracy.

关 键 词：信息熵 数据修剪 支持向量机 分类 数据分布 

分 类 号：TP391[自动化与计算机技术—计算机应用技术]