基于改进遗传算法的支持向量机特征选择

  作者:张子宁 单甘霖 段修生 张岐龙 军械工程学院光学与电子工程系 时间:2010-02-05来源:电子产品世界

  在种群规模为30,交叉率为0.8,起始变异率为0.1的条件下使用支持向量机作为分类器(惩罚参数为13.7,径向基核函数参数为10.6)对所选数据进行分类,表1中显示了本文算法与文献[11]中几种算法在分类效果上的对比,表2给出了三种数据的最终选择结果。表1中共出现了四种方法:方法1:使用本文算法;方法2:使用NGA/PCA方法;方法3:使用PCA方法;方法4:使用简单遗传算法。

  由于本文算法旨在用最少的特征个数最大化分类正确率,因此从表1中可以看出本文算法在特征选择个数和分类正确率上均比其他三种方法更具优势。由于NGA/PCA算法是针对简单遗传算法和主成分分析法的不足而做的改进,其性能优于简单遗传算法和主成分分析法,所以本文算法的分类效果优于NGA/PCA算法这一事实更能说明该算法可以较好地解决支持向量机的特征选择问题。

  结语

  通过与其他方法的比较,本文算法的分类效果得到了充分的验证,也说明了该算法具有极好的泛化能力以及在敏感度信息量地指导下遗传操作的有效性。

  适应度函数的设计至关重要,它直接影响到最终结果的优劣以及算法的收敛性,所以在适应度函数的设计应考虑所解决问题的侧重点。

  分类正确率的高低不仅取决于合理的特征选择,而且与支持向量机的参数优化有关。只有在合理的特征选择和参数优化的前提下,支持向量机分类器才能发挥出最佳的分类效果。

  由于算法能够较好地解决支持向量机的特征选择问题,因此已被应用在基于支持向量机的数字电路板故障诊断当中,并取得了良好的效果。

  参考文献:

  [1] 张学工. 关于统计学习理论与支持向量机[J].自动化学报,2000,26(1):33-41

  [2] Seo K K. A GA-Based Feature Subset Selection and Parameter Optimization of Support Vector Machine for Content – Based Imag Retrieval[J].ADMA2007,2007:594-604

  [3] Frohlich H, et al. Feature selection for support vector machines by means of genetic algorithm [C]. In 15th IEEE . Internati onal Conference on Tools with Artificial Intelligence, 2003: 142 - 148

  [4] Suna Z, Bebisa G, Millerb R. Object detection using feature subset selection [ J ]. Pattern Recognition, 2004, 37 (1) : 2165 - 2176

  [5] 史东锋,屈梁生. 遗传算法在故障特征选择中的应用研究[J]. 振动、测试与诊断, 2000,20(3):171-176

  [6] 刘清坤, 阙沛文, 郭华伟等. 基于支持向量机和特征选择的超声缺陷识别方法研究[J]. 中国机械工程, 2006,17(1):9-11

  [7] 张昊, 陶然, 李志勇等. 基于自适应模拟退火遗传算法的特征选择方法[J]. 兵工学报, 2009,30(1):81-85

  [8] 刘素华, 侯惠芳, 李小霞. 基于遗传算法和模拟退火算法的特征选择方法. 计算机工程[J], 2005,31(16):157-159

  [9] 杨淑莹. 模式识别与智能计算——Matlab技术实现[M]. 北京:电子工业出版社, 2008

  [10] 肖健华. 智能模式识别方法[M].广州:南洋理工出版社, 2006

  [11] 孙见青, 汪荣贵, 胡韦伟等. 一种新的基于NGA/PCA和SVM的特征提取方法[J]. 系统仿真学报, 2007,19(20):4823-4826

1 2 3 4 5

关键词: 支持向量机 互敏感度信息量 独立敏感度信息量 自适应变异率 Meteopolis准则 201001

加入微信
获取电子行业最新资讯
搜索微信公众号:EEPW

或用微信扫描左侧二维码

相关文章

查看电脑版