Python方差特征过滤的实例分析

说明

1、通过特征本身的方差来筛选特征。特征的方差越小，特征的变化越不明显。

2、变化越不明显的特征对我们区分标签没有太大作用，因此应该消除这些特征。

实例

def variance_demo():
    """
    过滤低方差特征
    :return:
    """
    # 1. 获取数据
    data = pd.read_csv('factor_returns.csv')
    data = data.iloc[:, 1:-2]
    print('data:\n', data)
 
    # 2. 实例化一个转换器类
    transfer = VarianceThreshold(threshold=10)
 
    # 3. 调用fit_transform()
    data_new = transfer.fit_transform(data)
    print('data_new:\n', data_new, data_new.shape)
 
   
    return None

知识点扩充：

方差过滤法

VarianceThreshold 是特征选择的一个简单基本方法,其原理在于–底方差的特征的预测效果往往不好。而VarianceThreshold会移除所有那些方差不满足一些阈值的特征。默认情况下，它将会移除所有的零方差特征，即那些在所有的样本上的取值均不变的特征。

sklearn中的VarianceThreshold类中重要参数 threshold（方差的阈值），表示删除所有方差小于threshold的特征 #不填默认为0——删除所有记录相同的特征。

import pandas as pd
import numpy as np
np.random.seed(1) #设置随机种子，实现每次生成的随机数矩阵都一样
a= np.random.randint(0, 200,10)
b= np.random.randint(0, 200,10)
c= np.random.randint(0, 200,10)
d= [9,9,9,9,9,9,9,9,9,9]
data=pd.DataFrame({"A" : a,"B" : b,"C" : c,"D" : d})
data
from sklearn.feature_selection import VarianceThreshold
sel_model = VarianceThreshold(threshold = 0)
#删除不合格特征之后的新矩阵
sel_model.fit_transform(data)

到此这篇关于Python方差特征过滤的实例分析的文章就介绍到这了,更多相关Python方差特征过滤的实现内容请搜索北冥有鱼以前的文章或继续浏览下面的相关文章希望大家以后多多支持北冥有鱼！