中文文本分类中特征抽取方法的比较研究  

A Comparative Study on Feature Selection in Chinese Text Categorization

作　　者：代六玲[1] 黄河燕[2] 陈肇雄[2] 

机构地区：[1]南京理工大学计算机科学系,南京210094 [2]中国科学院计算机语言信息工程研究中心,北京100083

出　　处：《中文信息学报》2004年第1期26-32,共7页Journal of Chinese Information Processing

基　　金：国家自然科学基金资助项目 (6 0 2 72 0 88)

摘　　要：本文比较研究了在中文文本分类中特征选取方法对分类效果的影响。考察了文档频率DF、信息增益IG、互信息MI、χ2分布CHI四种不同的特征选取方法。采用支持向量机 (SVM )和KNN两种不同的分类器以考察不同抽取方法的有效性。实验结果表明 ,在英文文本分类中表现良好的特征抽取方法 (IG、MI和CHI)在不加修正的情况下并不适合中文文本分类。文中从理论上分析了产生差异的原因 ,并分析了可能的矫正方法包括采用超大规模训练语料和采用组合的特征抽取方法。最后通过实验验证组合特征抽取方法的有效性。This paper is a comparative study of feature selection methods in text categorization. Four methods were evaluated, including document frequency (DF), information gain (IG), mutual information (MI) and χ 2 test (CHI). A Support Vector Machine ( SVM) and a k nearest neighbor (KNN) were selected as the evaluating classifiers. We found IG, MI and CHI had poor performance in our test, though they behave well in English text categorization. We analyzed the reasons theoretically and put forwarded the possible solutions. A furthermore experiment proved that the combined feature selection method is effective.

关 键 词：计算机应用 中文信息处理 文本自动分类 特征抽取 支持向量机 KNN 

分 类 号：TP18[自动化与计算机技术—控制理论与控制工程]