使用PCA降维实现鸢尾花数据特征可视化

以你之姓@ 2022-12-12 04:57 324阅读 0赞

## 1. 调用库和模块 ##

import matplotlib.pyplot as plt
    from sklearn.datasets import load_iris
    from sklearn.decomposition import PCA

## 2. 提取数据集 ##

iris = load_iris()
    y = iris.target
    X = iris.data
    X.shape#(150, 4)
    import pandas as pd
    pd.DataFrame(X).head()

## 3.建模 ##

#调用PCA
    pca = PCA(n_components=2)           #实例化
    pca = pca.fit(X)                    #拟合模型
    X_dr = pca.transform(X)             #获取新矩阵
     
    X_dr
    #也可以fit_transform一步到位
    #X_dr = PCA(2).fit_transform(X)

## 4.可视化 ##

#要将三种鸢尾花的数据分布显示在二维平面坐标系中，对应的两个坐标（两个特征向量）应该是三种鸢尾花降维后的x1和x2，取出三种鸢尾花下不同的x1和x2
     
    X_dr[y == 0, 0] #这里是布尔索引
     
    #要展示三中分类的分布，需要对三种鸢尾花分别绘图
    #可以写成三行代码，也可以写成for循环
    """ plt.figure() plt.scatter(X_dr[y==0, 0], X_dr[y==0, 1], c="red", label=iris.target_names[0]) plt.scatter(X_dr[y==1, 0], X_dr[y==1, 1], c="black", label=iris.target_names[1]) plt.scatter(X_dr[y==2, 0], X_dr[y==2, 1], c="orange", label=iris.target_names[2]) plt.legend() plt.title('PCA of IRIS dataset') plt.show() """
     
    colors = ['red', 'black', 'orange']
    iris.target_names
     
    plt.figure()
    for i in [0, 1, 2]:
        plt.scatter(X_dr[y == i, 0]
                    ,X_dr[y == i, 1]
                    ,alpha=.7#指画出的图像的透明度
                    ,c=colors[i]
                    ,label=iris.target_names[i]
                   )
    plt.legend()#图例
    plt.title('PCA of IRIS dataset')
    plt.show()

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzMzMzkyMzgz_size_16_color_FFFFFF_t_70_pic_center]  
鸢尾花的分布被展现在我们眼前了,明显这是一个分簇的分布,并且每个簇之间的分布相对比较明显,也许versicolor和virginia这两种花之间会有一些分类错误,但setosa肯定不会被分错。这样的数据很容易分类,可以预见,KNN,随机森林,神经网络,朴素贝叶斯,Adaboost这些分类器在鸢尾花数据集上,未调整的时候都可以有95%上下的准确率。

## 补充： 选择最好的n\_components:累积可解释方差贡献率曲线 ##

import numpy as np
    pca_line = PCA().fit(X)
    # pca_line.explained_variance_ratio_#array([0.92461872, 0.05306648, 0.01710261, 0.00521218])
    plt.plot([1,2,3,4],np.cumsum(pca_line.explained_variance_ratio_))
    plt.xticks([1,2,3,4]) #这是为了限制坐标轴显示为整数
    plt.xlabel("number of components after dimension reduction")
    plt.ylabel("cumulative explained variance ratio")
    plt.show()

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzMzMzkyMzgz_size_16_color_FFFFFF_t_70_pic_center 1]  
当参数n\_components中不填写任何值,则默认返回min(X.shape)个特征,一般来说,样本量都会大于特征数目,所以什么都不填就相当于转换了新特征空间,但没有减少特征的个数。一般来说,不会使用这种输入方式。但我们却可以使用这种输入方式来画出累计可解释方差贡献率曲线,以此选择最好的n\_components的整数取值。  
累积可解释方差贡献率曲线是一条以降维后保留的特征个数为横坐标,降维后新特征矩阵捕捉到的可解释方差贡献率为纵坐标的曲线,能够帮助我们决定n\_components最好的取值。

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzMzMzkyMzgz_size_16_color_FFFFFF_t_70_pic_center]: /images/20221123/ce7ad80afa534f758d1bb9a41a2673ef.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzMzMzkyMzgz_size_16_color_FFFFFF_t_70_pic_center 1]: /images/20221123/05cb42e28b5d45c2b84a9d051762a61f.png