正则化线性模型：岭回归Ridge Regression(即线性回归的改进)、lasso回归(Lasso Regression)、弹性网络(Elastic Net)、Early Stopping

超、凢脫俗 2023-07-07 12:51 16阅读 0赞

# ![20191009191333910.png][][日萌社][Link 1] #

[人工智能AI：Keras PyTorch MXNet TensorFlow PaddlePaddle 深度学习实战（不定时更新）][AI_Keras PyTorch MXNet TensorFlow PaddlePaddle]

--------------------

# 2.9 正则化线性模型 #

## 学习目标 ##

*  知道正则化中岭回归的线性模型
 *  知道正则化中lasso回归的线性模型
 *  知道正则化中弹性网络的线性模型
 *  了解正则化中early stopping的线性模型

--------------------

*  Ridge Regression 岭回归
 *  Lasso 回归
 *  Elastic Net 弹性网络
 *  Early stopping

## 1 Ridge Regression (岭回归，又名 Tikhonov regularization) ##

岭回归是线性回归的正则化版本，即在原来的线性回归的 cost function 中添加正则项（regularization term）:

![20200223202211125.png][]

以达到在拟合数据的同时，使模型权重尽可能小的目的,岭回归代价函数:

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3ppbWlhbzU1MjE0NzU3Mg_size_16_color_FFFFFF_t_70][]

## 2 Lasso Regression(Lasso 回归) ##

Lasso 回归是线性回归的另一种正则化版本，正则项为权值向量的ℓ1范数。

Lasso回归的代价函数 ：

![20200223202232825.png][]

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3ppbWlhbzU1MjE0NzU3Mg_size_16_color_FFFFFF_t_70 1][]

Lasso Regression 有一个很重要的性质是：倾向于完全消除不重要的权重。

例如：当α 取值相对较大时，高阶多项式退化为二次甚至是线性：高阶多项式特征的权重被置为0。

也就是说，Lasso Regression 能够自动进行特征选择，并输出一个稀疏模型（只有少数特征的权重是非零的）。

## 3 Elastic Net (弹性网络) ##

弹性网络在岭回归和Lasso回归中进行了折中，通过 **混合比(mix ratio) r** 进行控制：

*  r=0：弹性网络变为岭回归
 *  r=1：弹性网络便为Lasso回归

弹性网络的代价函数 ：

![20200223202301469.png][]

一般来说，我们应避免使用**朴素线性回归**，而应对模型进行一定的正则化处理，那如何选择正则化方法呢？

**小结：**

*  常用：岭回归
 *  假设只有少部分特征是有用的：
    
     *  弹性网络
     *  Lasso
     *  一般来说，弹性网络的使用更为广泛。因为在特征维度高于训练样本数，或者特征是强相关的情况下，Lasso回归的表现不太稳定。
 *  api:
    
     *      from sklearn.linear_model import Ridge, ElasticNet, Lasso

## 4 Early Stopping \[了解\] ##

Early Stopping 也是正则化迭代学习的方法之一。

其做法为：在验证错误率达到最小值的时候停止训练。

## 5 小结 ##

*  Ridge Regression 岭回归
    
     *  就是把系数添加平方项
     *  然后限制系数值的大小
     *  α值越小，系数值越大，α越大，系数值越小
 *  Lasso 回归
    
     *  对系数值进行绝对值处理
     *  由于绝对值在顶点处不可导，所以进行计算的过程中产生很多0，最后得到结果为：稀疏矩阵
 *  Elastic Net 弹性网络
    
     *  是前两个内容的综合
     *  设置了一个r,如果r=0--岭回归；r=1--Lasso回归
 *  Early stopping
    
     *  通过限制错误率的阈值，进行停止

--------------------

# 2.10 线性回归的改进-岭回归 #

## 1 API ##

*  sklearn.linear\_model.Ridge(alpha=1.0, fit\_intercept=True,solver="auto", normalize=False)
    
     *  具有l2正则化的线性回归
     *  alpha:正则化力度，也叫 λ
        
         *  **λ取值：0~1 1~10**
     *  solver:会根据数据自动选择优化方法
        
         *  **sag:如果数据集、特征都比较大，选择该随机梯度下降优化**
     *  normalize:数据是否进行标准化
        
         *  normalize=False:可以在fit之前调用preprocessing.StandardScaler标准化数据
     *  Ridge.coef\_:回归权重
     *  Ridge.intercept\_:回归偏置

**Ridge方法相当于SGDRegressor(penalty='l2', loss="squared\_loss"),只不过SGDRegressor实现了一个普通的随机梯度下降学习，推荐使用Ridge(实现了SAG)**

*  sklearn.linear\_model.RidgeCV(\_BaseRidgeCV, RegressorMixin)
    
     *  具有l2正则化的线性回归，可以进行交叉验证
     *  coef\_:回归系数

class _BaseRidgeCV(LinearModel):
        def __init__(self, alphas=(0.1, 1.0, 10.0),
                     fit_intercept=True, normalize=False,scoring=None,
                     cv=None, gcv_mode=None,
                     store_cv_values=False):

## 2 观察正则化程度的变化，对结果的影响？ ##

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3ppbWlhbzU1MjE0NzU3Mg_size_16_color_FFFFFF_t_70 2][]

*  正则化力度越大，权重系数会越小
 *  正则化力度越小，权重系数会越大

## 3 波士顿房价预测 ##

def linear_model3():
        """
        线性回归:岭回归
        :return:
        """
        # 1.获取数据
        data = load_boston()
    
        # 2.数据集划分
        x_train, x_test, y_train, y_test = train_test_split(data.data, data.target, random_state=22)
    
        # 3.特征工程-标准化
        transfer = StandardScaler()
        x_train = transfer.fit_transform(x_train)
        x_test = transfer.fit_transform(x_test)
    
        # 4.机器学习-线性回归(岭回归)
        estimator = Ridge(alpha=1)
        # estimator = RidgeCV(alphas=(0.1, 1, 10))
        estimator.fit(x_train, y_train)
    
        # 5.模型评估
        # 5.1 获取系数等值
        y_predict = estimator.predict(x_test)
        print("预测值为:\n", y_predict)
        print("模型中的系数为:\n", estimator.coef_)
        print("模型中的偏置为:\n", estimator.intercept_)
    
        # 5.2 评价
        # 均方误差
        error = mean_squared_error(y_test, y_predict)
        print("误差为:\n", error)

## 4 小结 ##

*  sklearn.linear\_model.Ridge(alpha=1.0, fit\_intercept=True,solver="auto", normalize=False)【知道】
    
     *  具有l2正则化的线性回归
     *  alpha -- 正则化
        
         *  正则化力度越大，权重系数会越小
         *  正则化力度越小，权重系数会越大
     *  normalize
        
         *  默认封装了，对数据进行标准化处理

[20191009191333910.png]: https://img-blog.csdnimg.cn/20191009191333910.png
[Link 1]: http://www.rimengshe.com/
[AI_Keras PyTorch MXNet TensorFlow PaddlePaddle]: https://blog.csdn.net/zimiao552147572/article/details/88867161
[20200223202211125.png]: https://img-blog.csdnimg.cn/20200223202211125.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3ppbWlhbzU1MjE0NzU3Mg_size_16_color_FFFFFF_t_70]: https://img-blog.csdnimg.cn/20200223202221606.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3ppbWlhbzU1MjE0NzU3Mg==,size_16,color_FFFFFF,t_70
[20200223202232825.png]: https://img-blog.csdnimg.cn/20200223202232825.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3ppbWlhbzU1MjE0NzU3Mg_size_16_color_FFFFFF_t_70 1]: https://img-blog.csdnimg.cn/20200223202242223.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3ppbWlhbzU1MjE0NzU3Mg==,size_16,color_FFFFFF,t_70
[20200223202301469.png]: https://img-blog.csdnimg.cn/20200223202301469.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3ppbWlhbzU1MjE0NzU3Mg_size_16_color_FFFFFF_t_70 2]: https://img-blog.csdnimg.cn/20200223202353719.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3ppbWlhbzU1MjE0NzU3Mg==,size_16,color_FFFFFF,t_70