机器学习——鸢尾花案例——交叉验证

谁借莪１个温暖的怀抱￠ 2023-09-30 11:10 6阅读 0赞

![watermark_type_d3F5LXplbmhlaQ_shadow_50_text_Q1NETiBA5ZCb6I6r56yR5ZOm_size_20_color_FFFFFF_t_70_g_se_x_16][]

在同一个训练级上训练除10个不同的模型，然后在数据集上对这十个模型进行测试，得到测试集误差，以此作为模型选择得标准，选择测试误差最小得那个模型。但是凭此一次考试就对模型得好坏进行评价是不合理的，所以接下来介绍交叉验证法。

#### 1、10折交叉验证。首先导入必要的库。 ####

> from sklearn.datasets import load\_iris  
> from sklearn.neighbors import KNeighborsClassifier  
> from sklearn.model\_selection import cross\_val\_score

#### 2、加载iris数据集 ####

> iris=load\_iris()  
> X=iris.data  
> y=iris.target

#### 3、建立一个5近邻模型，进行10折交叉验证，既把样本分成10份，每一份都作为测试集，得到10次预测精度。 ####

> knn=KNeighborsClassifier(n\_neighbors=5)  
> scores = cross\_val\_score(knn,X,y,cv=10,scoring='accuracy')  
> print(scores)

![watermark_type_d3F5LXplbmhlaQ_shadow_50_text_Q1NETiBA5ZCb6I6r56yR5ZOm_size_20_color_FFFFFF_t_70_g_se_x_16 1][]

将10次预测精度的平均值打印出来。

> print(scores.mean())

![watermark_type_d3F5LXplbmhlaQ_shadow_50_text_Q1NETiBA5ZCb6I6r56yR5ZOm_size_20_color_FFFFFF_t_70_g_se_x_16 2][]

#### 4、选择最优的K值，训练不同的K值的K近邻模型，得到10折交叉验证的预测精度 ####

![watermark_type_d3F5LXplbmhlaQ_shadow_50_text_Q1NETiBA5ZCb6I6r56yR5ZOm_size_20_color_FFFFFF_t_70_g_se_x_16 3][]

#### 5、最后通过绘制精度随K值变化的图来选择精度最高的K值 ####

> k\_range=range(1,31)  
> k\_scores=\[\]  
> for k in k\_range:  
> knn=KNeighborsClassifier(n\_neighbors=k)  
> scores=cross\_val\_score(knn,X,y,cv=10,scoring='accuracy')  
> k\_scores.append(scores.mean())  
> print(k\_scores)  
> plt.plot(k\_range,k\_scores)  
> plt.xlabel('The value of the k in KNN')  
> plt.ylabel('accuracy')  
> plt.show()

![watermark_type_d3F5LXplbmhlaQ_shadow_50_text_Q1NETiBA5ZCb6I6r56yR5ZOm_size_20_color_FFFFFF_t_70_g_se_x_16 4][]

[watermark_type_d3F5LXplbmhlaQ_shadow_50_text_Q1NETiBA5ZCb6I6r56yR5ZOm_size_20_color_FFFFFF_t_70_g_se_x_16]: https://img-blog.csdnimg.cn/1d7e1131548d456ea993f9913a60c7c3.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBA5ZCb6I6r56yR5ZOm,size_20,color_FFFFFF,t_70,g_se,x_16
[watermark_type_d3F5LXplbmhlaQ_shadow_50_text_Q1NETiBA5ZCb6I6r56yR5ZOm_size_20_color_FFFFFF_t_70_g_se_x_16 1]: https://img-blog.csdnimg.cn/2764c60706ff43bda122cc5b60a32faa.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBA5ZCb6I6r56yR5ZOm,size_20,color_FFFFFF,t_70,g_se,x_16
[watermark_type_d3F5LXplbmhlaQ_shadow_50_text_Q1NETiBA5ZCb6I6r56yR5ZOm_size_20_color_FFFFFF_t_70_g_se_x_16 2]: https://img-blog.csdnimg.cn/23abbbafb1194298ad66813610c3f1a9.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBA5ZCb6I6r56yR5ZOm,size_20,color_FFFFFF,t_70,g_se,x_16
[watermark_type_d3F5LXplbmhlaQ_shadow_50_text_Q1NETiBA5ZCb6I6r56yR5ZOm_size_20_color_FFFFFF_t_70_g_se_x_16 3]: https://img-blog.csdnimg.cn/8459b112166745caac7db5a62cc8fb18.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBA5ZCb6I6r56yR5ZOm,size_20,color_FFFFFF,t_70,g_se,x_16
[watermark_type_d3F5LXplbmhlaQ_shadow_50_text_Q1NETiBA5ZCb6I6r56yR5ZOm_size_20_color_FFFFFF_t_70_g_se_x_16 4]: https://img-blog.csdnimg.cn/bb915cb8d04946349ca7d0c5fc2c44b0.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBA5ZCb6I6r56yR5ZOm,size_20,color_FFFFFF,t_70,g_se,x_16