python实现梯度法 python最速下降法

女爷i 2023-01-03 11:29 197阅读 0赞

更多编程教程请到：[菜鸟教程][Link 1] https://www.piaodoo.com/

友情链接：

[高州阳光论坛][Link 2]https://www.hnthzk.com/

[人人影视][Link 3]http://www.sfkyty.com/

假设我们已经知道梯度法——最速下降法的原理。

现给出一个算例：

![Image 1][]

如果人工直接求解：

![Image 1][]

现给出Python求解过程：

import numpy as np
    from sympy import *
    import math
    import matplotlib.pyplot as plt
    import mpl_toolkits.axisartist as axisartist

# 定义符号 #

x1, x2, t = symbols(‘x1, x2, t’)

def func():

# 自定义一个函数 #

return pow(x1, 2) + 2 \* pow(x2, 2) - 2 \* x1 \* x2 - 2 \* x2

def grad(data):

# 求梯度向量,data=\[data1, data2\] #

f = func()  
grad\_vec = \[diff(f, x1), diff(f, x2)\] \# 求偏导数,梯度向量  
grad = \[\]  
for item in grad\_vec:  
grad.append(item.subs(x1, data\[0\]).subs(x2, data\[1\]))  
return grad

def grad\_len(grad):

# 梯度向量的模长 #

vec\_len = math.sqrt(pow(grad\[0\], 2) + pow(grad\[1\], 2))  
return vec\_len

def zhudian(f):

# 求得min(t)的驻点 #

t\_diff = diff(f)  
t\_min = solve(t\_diff)  
return t\_min

def main(X0, theta):  
f = func()  
grad\_vec = grad(X0)  
grad\_length = grad\_len(grad\_vec) \# 梯度向量的模长  
k = 0  
data\_x = \[0\]  
data\_y = \[0\]  
while grad\_length > theta: \# 迭代的终止条件  
k += 1  
p = -np.array(grad\_vec)

# 迭代 #

X = np.array(X0) + t*p  
t\_func = f.subs(x1, X\[0\]).subs(x2, X\[1\])  
t\_min = zhudian(t\_func)  
X0 = np.array(X0) + t\_min*p  
grad\_vec = grad(X0)  
grad\_length = grad\_len(grad\_vec)  
print(‘grad\_length’, grad\_length)  
print(‘坐标’, X0\[0\], X0\[1\])  
data\_x.append(X0\[0\])  
data\_y.append(X0\[1\])

print(k)

# 绘图 #

fig = plt.figure()  
ax = axisartist.Subplot(fig, 111)  
fig.add\_axes(ax)  
ax.axis\[“bottom”\].set\_axisline\_style("-|>", size=1.5)  
ax.axis\[“left”\].set\_axisline\_style("->", size=1.5)  
ax.axis\[“top”\].set\_visible(False)  
ax.axis\[“right”\].set\_visible(False)  
plt.title(r’ G r a d i e n t   m e t h o d − s t e e p e s t   d e s c e n t   m e t h o d Gradient \\ method - steepest \\ descent \\ method Gradient method−steepest descent method’)  
plt.plot(data\_x, data\_y, label=r’ f ( x 1 , x 2 ) = x 1 2 + 2 ⋅ x 2 2 − 2 ⋅ x 1 ⋅ x 2 − 2 ⋅ x 2 f(x\_1,x\_2)=x\_1^2+2 \\cdot x\_2^2-2 \\cdot x\_1 \\cdot x\_2-2 \\cdot x\_2 f(x1,x2)=x12\+2⋅x22−2⋅x1⋅x2−2⋅x2’)  
plt.legend()  
plt.scatter(1, 1, marker=(5, 1), c=5, s=1000)  
plt.grid()  
plt.xlabel(r’ x 1 x\_1 x1’, fontsize=20)  
plt.ylabel(r’ x 2 x\_2 x2’, fontsize=20)  
plt.show()

if **name** == ‘**main**’:

# 给定初始迭代点和阈值 #

main(\[0, 0\], 0.00001)

最终结果图如下所示：

![Image 1][]

以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持菜鸟教程www.piaodoo.com。

[Link 1]: https://www.piaodoo.com/
[Link 2]: https://www.hnthzk.com/
[Link 3]: http://www.sfkyty.com/
[Image 1]: