深入浅出--梯度下降法及其实现

た入场券 2023-06-09 10:10 17阅读 0赞

>  *  梯度下降的场景假设
>  *  梯度
>  *  梯度下降算法的数学解释
>  *  梯度下降算法的实例
>  *  梯度下降算法的实现
>  *  Further reading

本文将从一个下山的场景开始，先提出梯度下降算法的基本思想，进而从数学上解释梯度下降算法的原理，最后实现一个简单的梯度下降算法的实例！

# 梯度下降的场景假设 #

> 梯度下降法的基本思想可以类比为一个下山的过程。假设这样一个场景：一个人被困在山上，需要从山上下来(i.e. 找到山的最低点，也就是山谷)。但此时山上的浓雾很大，导致可视度很低。因此，下山的路径就无法确定，他必须利用自己周围的信息去找到下山的路径。这个时候，他就可以利用梯度下降算法来帮助自己下山。具体来说就是，以他当前的所处的位置为基准，寻找这个位置最陡峭的地方，然后朝着山的高度下降的地方走，同理，如果我们的目标是上山，也就是爬到山顶，那么此时应该是朝着最陡峭的方向往上走。然后每走一段距离，都反复采用同一个方法，最后就能成功的抵达山谷。
> 
>  
> 
> ![format_png][]
> 
> image.png
> 
>  
> 
> 我们同时可以假设这座山最陡峭的地方是无法通过肉眼立马观察出来的，而是需要一个复杂的工具来测量，同时，这个人此时正好拥有测量出最陡峭方向的能力。所以，此人每走一段距离，都需要一段时间来测量所在位置最陡峭的方向，这是比较耗时的。那么为了在太阳下山之前到达山底，就要尽可能的减少测量方向的次数。这是一个两难的选择，如果测量的频繁，可以保证下山的方向是绝对正确的，但又非常耗时，如果测量的过少，又有偏离轨道的风险。所以需要找到一个合适的测量方向的频率，来确保下山的方向不错误，同时又不至于耗时太多！

# 梯度下降 #

梯度下降的基本过程就和下山的场景很类似。

--------------------

首先，我们有一个可[*微分*][Link 1]的函数。这个函数就代表着一座山。我们的目标就是找到这个函数的最小值，也就是山底。根据之前的场景假设，最快的下山的方式就是找到当前位置最陡峭的方向，然后沿着此方向向下走，对应到函数中，就是找到给定点的[*梯度*][Link 2] ，然后朝着梯度相反的方向，就能让函数值下降的最快！因为梯度的方向就是函数之变化最快的方向(在后面会详细解释)  
所以，我们重复利用这个方法，反复求取梯度，最后就能到达局部的最小值，这就类似于我们下山的过程。而求取梯度就确定了最陡峭的方向，也就是场景中测量方向的手段。那么为什么梯度的方向就是最陡峭的方向呢？接下来，我们从微分开始讲起

# 微分 #

看待微分的意义，可以有不同的角度，最常用的两种是：

*  函数图像中，某点的切线的斜率
 *  函数的变化率  
    几个微分的例子：
    
     
    
    ![format_png 1][]
    
    image.png

上面的例子都是单变量的微分，当一个函数有多个变量的时候，就有了多变量的微分，即分别对每个变量进行求微分

![format_png 2][]

image.png

# 梯度 #

梯度实际上就是多变量微分的一般化。  
下面这个例子：

![format_png 3][]

image.png

我们可以看到，梯度就是分别对每个变量进行微分，然后用逗号分割开，梯度是用<>包括起来，说明梯度其实一个向量。

梯度是微积分中一个很重要的概念，之前提到过梯度的意义

*  在单变量的函数中，梯度其实就是函数的微分，代表着函数在某个给定点的切线的斜率
 *  在多变量函数中，梯度是一个向量，向量有方向，梯度的方向就指出了函数在给定点的上升最快的方向

这也就说明了为什么我们需要千方百计的求取梯度！我们需要到达山底，就需要在每一步观测到此时最陡峭的地方，梯度就恰巧告诉了我们这个方向。梯度的方向是函数在给定点上升最快的方向，那么梯度的反方向就是函数在给定点下降最快的方向，这正是我们所需要的。所以我们只要沿着梯度的方向一直走，就能走到局部的最低点！

![format_png 4][]

image.png

# 梯度下降算法的数学解释 #

上面我们花了大量的篇幅介绍梯度下降算法的基本思想和场景假设，以及梯度的概念和思想。下面我们就开始从数学上解释梯度下降算法的计算过程和思想！

![format_png 5][]

image.png

此公式的意义是：J是关于Θ的一个函数，我们当前所处的位置为Θ0点，要从这个点走到J的最小值点，也就是山底。首先我们先确定前进的方向，也就是梯度的反向，然后走一段距离的步长，也就是α，走完这个段步长，就到达了Θ1这个点！

![format_png 6][]

image.png

下面就这个公式的几个常见的疑问：

*  α是什么含义？  
    α在梯度下降算法中被称作为**学习率**或者**步长**，意味着我们可以通过α来控制每一步走的距离，以保证不要步子跨的太大扯着蛋，哈哈，其实就是不要走太快，错过了最低点。同时也要保证不要走的太慢，导致太阳下山了，还没有走到山下。所以α的选择在梯度下降法中往往是很重要的！α不能太大也不能太小，太小的话，可能导致迟迟走不到最低点，太大的话，会导致错过最低点！

![format_png 7][]

image.png

*  为什么要梯度要乘以一个负号？  
    梯度前加一个负号，就意味着朝着梯度相反的方向前进！我们在前文提到，梯度的方向实际就是函数在此点上升最快的方向！而我们需要朝着下降最快的方向走，自然就是负的梯度的方向，所以此处需要加上负号

# 梯度下降算法的实例 #

我们已经基本了解了梯度下降算法的计算过程，那么我们就来看几个梯度下降算法的小实例，首先从单变量的函数开始

## 单变量函数的梯度下降 ##

我们假设有一个单变量的函数

![format_png 8][]

image.png

函数的微分

![format_png 9][]

image.png

初始化，起点为

![format_png 10][]

image.png

学习率为

![format_png 11][]

image.png

根据梯度下降的计算公式

![format_png 5][]

image.png

我们开始进行梯度下降的迭代计算过程：

![format_png 12][]

image.png

如图，经过四次的运算，也就是走了四步，基本就抵达了函数的最低点，也就是山底

![format_png 13][]

image.png

## 多变量函数的梯度下降 ##

我们假设有一个目标函数

![format_png 14][]

image.png

现在要通过梯度下降法计算这个函数的最小值。我们通过观察就能发现最小值其实就是 (0，0)点。但是接下来，我们会从梯度下降算法开始一步步计算到这个最小值！  
我们假设初始的起点为：

![format_png 15][]

image.png

初始的学习率为：

![format_png 16][]

image.png

函数的梯度为：

![format_png 17][]

image.png

进行多次迭代：

![format_png 18][]

image.png

我们发现，已经基本靠近函数的最小值点

![format_png 19][]

image.png

# 梯度下降算法的实现 #

下面我们将用python实现一个简单的梯度下降算法。场景是一个简单的[*线性回归*][Link 3]的例子：假设现在我们有一系列的点，如下图所示

![format_png 20][]

image.png

我们将用梯度下降法来拟合出这条直线！

首先，我们需要定义一个代价函数，在此我们选用[*均方误差代价函数*][Link 4]

![format_png 21][]

image.png

此公示中

*  m是数据集中点的个数
 *  ½是一个常量，这样是为了在求梯度的时候，二次方乘下来就和这里的½抵消了，自然就没有多余的常数系数，方便后续的计算，同时对结果不会有影响
 *  y 是数据集中每个点的真实y坐标的值
 *  h 是我们的预测函数，根据每一个输入x，根据Θ 计算得到预测的y值，即
    
     
    
    ![format_png 22][]
    
    image.png

我们可以根据代价函数看到，代价函数中的变量有两个，所以是一个多变量的梯度下降问题，求解出代价函数的梯度，也就是分别对两个变量进行微分

![format_png 23][]

image.png

明确了代价函数和梯度，以及预测的函数形式。我们就可以开始编写代码了。但在这之前，需要说明一点，就是为了方便代码的编写，我们会将所有的公式都转换为矩阵的形式，python中计算矩阵是非常方便的，同时代码也会变得非常的简洁。

为了转换为矩阵的计算，我们观察到预测函数的形式

![format_png 22][]

image.png

我们有两个变量，为了对这个公式进行矩阵化，我们可以给每一个点x增加一维，这一维的值固定为1，这一维将会乘到Θ0上。这样就方便我们统一矩阵化的计算

![format_png 24][]

image.png

然后我们将代价函数和梯度转化为矩阵向量相乘的形式

![format_png 25][]

image.png

## coding time ##

首先，我们需要定义数据集和学习率

接下来我们以矩阵向量的形式定义代价函数和代价函数的梯度

def error_function(theta, X, y):
        '''Error function J definition.'''
        diff = np.dot(X, theta) - y
        return (1./2*m) * np.dot(np.transpose(diff), diff)
    
    def gradient_function(theta, X, y):
        '''Gradient of the function J definition.'''
        diff = np.dot(X, theta) - y
        return (1./m) * np.dot(np.transpose(X), diff)

最后就是算法的核心部分，梯度下降迭代计算

def gradient_descent(X, y, alpha):
        '''Perform gradient descent.'''
        theta = np.array([1, 1]).reshape(2, 1)
        gradient = gradient_function(theta, X, y)
        while not np.all(np.absolute(gradient) <= 1e-5):
            theta = theta - alpha * gradient
            gradient = gradient_function(theta, X, y)
        return theta

当梯度小于1e-5时，说明已经进入了比较平滑的状态，类似于山谷的状态，这时候再继续迭代效果也不大了，所以这个时候可以退出循环！

完整的代码如下

import numpy as np
    
    # Size of the points dataset.
    m = 20
    
    # Points x-coordinate and dummy value (x0, x1).
    X0 = np.ones((m, 1))
    X1 = np.arange(1, m+1).reshape(m, 1)
    X = np.hstack((X0, X1))
    
    # Points y-coordinate
    y = np.array([
        3, 4, 5, 5, 2, 4, 7, 8, 11, 8, 12,
        11, 13, 13, 16, 17, 18, 17, 19, 21
    ]).reshape(m, 1)
    
    # The Learning Rate alpha.
    alpha = 0.01
    
    def error_function(theta, X, y):
        '''Error function J definition.'''
        diff = np.dot(X, theta) - y
        return (1./2*m) * np.dot(np.transpose(diff), diff)
    
    def gradient_function(theta, X, y):
        '''Gradient of the function J definition.'''
        diff = np.dot(X, theta) - y
        return (1./m) * np.dot(np.transpose(X), diff)
    
    def gradient_descent(X, y, alpha):
        '''Perform gradient descent.'''
        theta = np.array([1, 1]).reshape(2, 1)
        gradient = gradient_function(theta, X, y)
        while not np.all(np.absolute(gradient) <= 1e-5):
            theta = theta - alpha * gradient
            gradient = gradient_function(theta, X, y)
        return theta
    
    optimal = gradient_descent(X, y, alpha)
    print('optimal:', optimal)
    print('error function:', error_function(optimal, X, y)[0,0])

运行代码，计算得到的结果如下

![format_png 26][]

image.png

所拟合出的直线如下

![format_png 27][]

image.png

# 小结 #

至此，我们就基本介绍完了梯度下降法的基本思想和算法流程，并且用python实现了一个简单的梯度下降算法拟合直线的案例！  
最后，我们回到文章开头所提出的场景假设:  
**这个下山的人实际上就代表了[反向传播算法][Link 5]，下山的路径其实就代表着算法中一直在寻找的参数Θ，山上当前点的最陡峭的方向实际上就是代价函数在这一点的梯度方向，场景中观测最陡峭方向所用的工具就是[微分][Link 6] 。在下一次观测之前的时间就是有我们算法中的学习率α所定义的。**  
可以看到场景假设和梯度下降算法很好的完成了对应！

# Further reading #

*  [Gradient Descent lecture notes][] from [UD262 Udacity Georgia Tech ML Course][].
 *  [An overview of gradient descent optimization algorithms][].

转载：[https://www.jianshu.com/p/c7e642877b0e][https_www.jianshu.com_p_c7e642877b0e]

[format_png]: /images/20230531/5c67186a50f244ea873c8094d9a63f2f.png
[Link 1]: https://link.jianshu.com/?t=https%3A%2F%2Fen.wikipedia.org%2Fwiki%2FDifferentiable_function
[Link 2]: https://link.jianshu.com/?t=https%3A%2F%2Fen.wikipedia.org%2Fwiki%2FGradient
[format_png 1]: /images/20230531/2093c50e4f314436aedfeccc50e48296.png
[format_png 2]: /images/20230531/cc9c93f4c774406c86fea87479e0df76.png
[format_png 3]: /images/20230531/910c5b0a4f914dd0bf205ced84f83296.png
[format_png 4]: /images/20230531/bc185f3e79e5469c8b27ac16737eb7f2.png
[format_png 5]: /images/20230531/570816bdd6724029a0896934175cb873.png
[format_png 6]: /images/20230531/f2f5dee17fbe4e3b8ec222bbd6a72ad9.png
[format_png 7]: /images/20230531/cf0045ef69a440d594feeda37e9d3fc8.png
[format_png 8]: /images/20230531/e986a44152094f24879a591118093c97.png
[format_png 9]: /images/20230531/d78ea247d22b4145ba90c86aa2af4306.png
[format_png 10]: /images/20230531/b96a65732e1946a89c3587308da5f84f.png
[format_png 11]: /images/20230531/453d361077044b6d9a1596991645ac99.png
[format_png 12]: /images/20230531/88e97ebdf36b4ec5b0800de90a1626b9.png
[format_png 13]: /images/20230531/4f53b196152a4cbe9adad73b459004dc.png
[format_png 14]: /images/20230531/e66d75c09a154ab1a61ebf7565909e3d.png
[format_png 15]: /images/20230531/41106d573f924fd987376159ab4ac362.png
[format_png 16]: /images/20230531/d0c9850042dc49d59f7f75f45b98e3a5.png
[format_png 17]: /images/20230531/85b2f7e0335a486dbe395474ded61029.png
[format_png 18]: /images/20230531/6ab8af7d92904be0af741e1fb033b764.png
[format_png 19]: /images/20230531/b3e81afab5104d13bc9e332eb75294b4.png
[Link 3]: https://link.jianshu.com/?t=https%3A%2F%2Fen.wikipedia.org%2Fwiki%2FLinear_regression
[format_png 20]: /images/20230531/b7fe7e89bdd94e72866b1f82a0a6207f.png
[Link 4]: https://link.jianshu.com/?t=https%3A%2F%2Fen.wikipedia.org%2Fwiki%2FLeast_squares
[format_png 21]: /images/20230531/8f0d6651a8d44795bc59f7f080ae9f98.png
[format_png 22]: /images/20230531/6876bd4e92fe49268cb423817195bf16.png
[format_png 23]: /images/20230531/2d31062d2c1945abbdf853f9bedf31b9.png
[format_png 24]: /images/20230531/ab4bcac73b88481da2508866d895eee4.png
[format_png 25]: /images/20230531/c858875fd4ca45788456edd8b650129b.png
[format_png 26]: /images/20230531/9b2621d6e17944c0848f6d168ab3789c.png
[format_png 27]: /images/20230531/c20599d7157d4bde9f0c469a389ba1f6.png
[Link 5]: https://link.jianshu.com/?t=https%3A%2F%2Fen.wikipedia.org%2Fwiki%2FBackpropagation
[Link 6]: https://link.jianshu.com/?t=https%3A%2F%2Fen.wikipedia.org%2Fwiki%2FDerivative
[Gradient Descent lecture notes]: https://link.jianshu.com/?t=https%3A%2F%2Fstorage.googleapis.com%2Fsupplemental_media%2Fudacityu%2F315142919%2FGradient%2520Descent.pdf
[UD262 Udacity Georgia Tech ML Course]: https://link.jianshu.com/?t=https%3A%2F%2Fwww.udacity.com%2Fcourse%2Fmachine-learning--ud262
[An overview of gradient descent optimization algorithms]: https://link.jianshu.com/?t=https%3A%2F%2Farxiv.org%2Fpdf%2F1609.04747.pdf
[https_www.jianshu.com_p_c7e642877b0e]: https://www.jianshu.com/p/c7e642877b0e