一种新的互信息特征子集评价函数  

Mutual-information evaluation function for feature subset selected

作　　者：洪智勇[1,2] 王天擎[3] 刘灿涛[4] 

机构地区：[1]西南交通大学信息与科学技术学院,成都610031 [2]五邑大学计算机学院,广东江门529020 [3]五邑大学管理学院,广东江门529020 [4]中国人民银行信息中心,北京100037

出　　处：《计算机工程与应用》2011年第22期130-132,共3页Computer Engineering and Applications

基　　金：广东省自然科学基金研究项目(No.9151001003000005);广东省教育厅育苗项目(No.LYM10128);中山市产学研结合项目(No.2009CXY037)

摘　　要：传统基于互信息的特征选择方法较少考虑特征之间的关联,并且随着特征数的增加,算法复杂度过大,基于此提出了一种新的基于互信息的特征子集评价函数。该方法充分考虑了特征间如何进行协作,选择了较优的特征子集,改善了分类准确度并且计算负荷有限。实验结果表明,该方法与传统的MIFS方法相比较,分类准确度提高了3%～5%,误差减少率也有25%～30%的改善。Conventional mutual-information-based feature selection algorithms seldom considers how features work together,with the features incresement,the computational complexity of the algorithms will increase dramatically.So propose mutualinformation-based evaluation function for feature subset selected,different from other mutual-information-based feature selection algorithm,it considers how features work together.So it produces the optimal feature subset and improves the classification accuracy of classifier.The computational complexity of it is also limited.The results show about 3%～5% increase for classification accuracy and 25%～30% improvement for error reduction rate compare with other conventional mutual-informationbased feature selection algorithms.

关 键 词：互信息 特征选择 熵 

分 类 号：TP301[自动化与计算机技术—计算机系统结构]