【机器学习】机器学习实验三：集成算法1（详细代码展示）

我不是女神ヾ 2023-09-27 15:10 162阅读 0赞

#### 文章目录 ####

*  一、实验介绍
 *   *  1.1 简单介绍
     *  1.2 Breast Cancer 数据实验
     *  1.3 Boston 数据实验
 *  二、项目地址
 *  三、算法结果展示

## 一、实验介绍 ##

### 1.1 简单介绍 ###

AdaBoost 和 Random Forest 算法的原理

### 1.2 Breast Cancer 数据实验 ###

1.  对 Breast Cancer 数据进行探索性数据分析；
2.  数据预处理
3.  分别以决策树、逻辑回归、SVM 为基函数，利用网格搜索等方法寻找不同基函数下 AdaBoost 算法的最优参数。利用 Precision、Recall、F1 和 Auc 等指标评价模型，探究和对比不同基函数下的  
    AdaBoost 算法性能
4.  对比以决策树为基函数的 AdaBoost、Random Forest 以及 Lars算法在 Breast Cancer 分类数据上的重要特征，得出影响 Breast Cancer分类的关键因素。

### 1.3 Boston 数据实验 ###

1.  对 Boston 房价数据进行探索性数据分析
2.  数据预处理
3.  以  R 2 R^2 R2、MSE、MAE 等指标为评价标准，探究 Random Forest算法的参数对模型性能的影响
4.  对单棵决策树以及以决策树为基函数的集成算法(AdaBoost，Random Forest)进行性能对比，探索相较于单模型而言，集成学习的特点。

## 二、项目地址 ##

这里只举例第一个数据集：

https://mbd.pub/o/bread/ZJWbkp9v

![在这里插入图片描述][6af21a64cc5b4a42b093c4a90a0270df.png]

## 三、算法结果展示 ##

![在这里插入图片描述][5fb97981f6384f37bb3875c334ef9c53.png]

![在这里插入图片描述][97eeae8dce724e199784ffb478eac5d6.png]

![在这里插入图片描述][77877108e3f14d44a1b392af86ff086b.png]

![在这里插入图片描述][1a22bea285f141e6aee18621193f740b.png]  
![在这里插入图片描述][fd14da2ff94d454c8ebc7eaed51f38ec.png]

![在这里插入图片描述][f63fa8561a174174959375c63962c2f2.png]

![在这里插入图片描述][45eff0e1cce64c16841cdc58acd0e768.png]

![在这里插入图片描述][fd83d77c439a496f9f56d474a33f1de6.png]  
![在这里插入图片描述][e12eaebffa2846fc80aacfa8a3f8d0d1.png]

![在这里插入图片描述][a3fe7eb957674afe87a2bb5932631974.png]

![在这里插入图片描述][7bf3da691c8c44b89b8c010339d6b514.png]

![在这里插入图片描述][8407a99704b14105be048b1f72e72ce5.png]

![在这里插入图片描述][b02842d0232f4bc19d99507ca6d8a733.png]

![在这里插入图片描述][923f59f8194f4ab2b4b740d1cde18a04.png]

[6af21a64cc5b4a42b093c4a90a0270df.png]: https://img-blog.csdnimg.cn/6af21a64cc5b4a42b093c4a90a0270df.png
[5fb97981f6384f37bb3875c334ef9c53.png]: https://img-blog.csdnimg.cn/5fb97981f6384f37bb3875c334ef9c53.png
[97eeae8dce724e199784ffb478eac5d6.png]: https://img-blog.csdnimg.cn/97eeae8dce724e199784ffb478eac5d6.png
[77877108e3f14d44a1b392af86ff086b.png]: https://img-blog.csdnimg.cn/77877108e3f14d44a1b392af86ff086b.png
[1a22bea285f141e6aee18621193f740b.png]: https://img-blog.csdnimg.cn/1a22bea285f141e6aee18621193f740b.png
[fd14da2ff94d454c8ebc7eaed51f38ec.png]: https://img-blog.csdnimg.cn/fd14da2ff94d454c8ebc7eaed51f38ec.png
[f63fa8561a174174959375c63962c2f2.png]: https://img-blog.csdnimg.cn/f63fa8561a174174959375c63962c2f2.png
[45eff0e1cce64c16841cdc58acd0e768.png]: https://img-blog.csdnimg.cn/45eff0e1cce64c16841cdc58acd0e768.png
[fd83d77c439a496f9f56d474a33f1de6.png]: https://img-blog.csdnimg.cn/fd83d77c439a496f9f56d474a33f1de6.png
[e12eaebffa2846fc80aacfa8a3f8d0d1.png]: https://img-blog.csdnimg.cn/e12eaebffa2846fc80aacfa8a3f8d0d1.png
[a3fe7eb957674afe87a2bb5932631974.png]: https://img-blog.csdnimg.cn/a3fe7eb957674afe87a2bb5932631974.png
[7bf3da691c8c44b89b8c010339d6b514.png]: https://img-blog.csdnimg.cn/7bf3da691c8c44b89b8c010339d6b514.png
[8407a99704b14105be048b1f72e72ce5.png]: https://img-blog.csdnimg.cn/8407a99704b14105be048b1f72e72ce5.png
[b02842d0232f4bc19d99507ca6d8a733.png]: https://img-blog.csdnimg.cn/b02842d0232f4bc19d99507ca6d8a733.png
[923f59f8194f4ab2b4b740d1cde18a04.png]: https://img-blog.csdnimg.cn/923f59f8194f4ab2b4b740d1cde18a04.png