基于稀疏贝叶斯模型的特征选择  

Feature Selection Based on Sparse Bayesian Model

作　　者：祝璞 黄章进[1,2,3] 

机构地区：[1]中国科学技术大学计算机科学与技术学院,合肥230027 [2]中国科学技术大学安徽省计算与通信软件重点实验室,合肥230027 [3]中国科学技术大学先进技术研究院,合肥230027

出　　处：《计算机工程》2017年第4期183-187,193,共6页Computer Engineering

基　　金：安徽省自然科学基金(1408085MKL06);高等学校学科创新引智计划项目(B07033)

摘　　要：通过采用稀疏贝叶斯推理方法,设计出可同时进行学习最优分类器与选取最优特征子集的特征选择概率分类向量机算法。该算法是对概率分类向量机特征选择的扩展,可提高其在高维数据集上的性能。通过选取零均值的高斯分布作为先验,在模型中起到正则项的作用,同时在核函数和特征中引入稀疏,得到泛化性更好的分类模型。在高维度和低维度数据集中的实验结果表明,该算法同时具有较好的分类和特征选择能力。Through using sparse Bayesian inference thought, a Feature Selection Probabilistic Classification Vector Machine （FPCVM） is designed which can learn optimal classifier and automatically select the most relevant feature subset. FPCVM is an extension of Probabilistic Classification Vector Machine（ PCVM）, which improves the performance of PCVM on high dimension datasets. It uses zero-mean Gaussian distribution as priori to introduce sparseness both in kernel functions and feature space;these priors are preformed as regularization items in the likelihood function to acquire more generalized model. Experimental results on high dimension datasets and low dimension datasets show that the algorithm has better classification and feature selection.

关 键 词：机器学习 核函数 稀疏贝叶斯 特征选择 概率分类向量机 自动相关性检测 

分 类 号：TP18[自动化与计算机技术—控制理论与控制工程]