sklearn特征的选择

特征工程

数据和特征决定了机器学习的上限，而模型和算法只是逼近这个上 限而已。根据特征使用方案，有计划地获取、处理和监控数据和特征的工作称之为特征工程,目的是 最大限度地从原始数据中提取特征以供算法和模型使用。

根据特征选择的形式又可以将特征选择方法分为3种：

用sklearn中的feature_selection库来进行特征选择

• Filter：

过滤法：按照发散性或者相关性对各个特征进行评分，设定阈值或者待选择阈值的 个数，选择特征。

• Wrapper：

包装法：根据目标函数（通常是预测效果评分），每次选择若干特征，或者排 除若干特征。

• Embedded：

嵌入法：先使用某些机器学习的算法和模型进行训练，得到各个特征的权值 系数，根据系数从大到小选择特征。类似于Filter方法，但是是通过训练来确定特征的优 劣。

采用iris数据集，iris数据集有四个特征

['sepal length (cm)',
 'sepal width (cm)',
 'petal length (cm)',
 'petal width (cm)']

  

Filter过滤法

• 方差选择法 VarianceThreshold

使用方差选择法，先要计算各个特征的方差࿰

文章来源: maoli.blog.csdn.net，作者：刘润森！，版权归原作者所有，如需转载，请联系作者。

原文链接：maoli.blog.csdn.net/article/details/88919856