基于启发式遗传算法的SVM模型自动选择  

Automatic model selection for support vector machines using heuristic genetic algorithm

作　　者：郑春红[1] 焦李成[2] 丁爱玲[2] 

机构地区：[1]西安电子科技大学电子工程学院,陕西西安710071 [2]西安电子科技大学智能信息处理研究所,陕西西安710071

出　　处：《控制理论与应用》2006年第2期187-192,共6页Control Theory & Applications

基　　金：国家自然科学基金资助项目(60133010;60372047);西安电子科技大学博士点基金资助项目;西安电子科技大学青年工作站项目资助项目

摘　　要：支撑矢量机(SVM)模型的自动选择是其实际应用的关键.常用的基于穷举搜索的留一法(LOO)很繁杂且效率很低.到目前为止,大多数的算法并不能有效地实现模型自动选择.本文利用实值编码的启发式遗传算法实现基于高斯核函数的SVM模型自动选择.在重点分析了SVM超参数对其性能的影响和两种SVM性能估计的基础上,确定了合适的遗传算法适应度函数.人造数据及实际数据的仿真结果表明了所提方法的可行性和高效性.Motivated by the facts that automatic model selection for support vector machine （SVM） is an important issue to make it practically useful, and the commonly-used leave-one-out （LOO） method is complex and time consuming, we proposed an effective strategy for automatic model selection for SVM with Gauss kernel by using a heuristic real-coded genetic algorithm （GA）. Based on the extensive analysis of the effects of the hyper-parameters on the generalization performance and two estimates of SVM, the appropriate fitness function for GA operation is determined. Simulations are performed on both artificial data and real data to demonstrate the effectiveness and efficiency of the proposed approach. The significance of the proposed method is its easy implementation and better performances in comparison with the commonly used loo method.

关 键 词：支撑矢量机(SVM) 模型选择 模型自动选择 遗传算法 

分 类 号：TP18[自动化与计算机技术—控制理论与控制工程] TP391[自动化与计算机技术—控制科学与工程]