通过简单神经网络识别猫图片

谁借莪１个温暖的怀抱￠ 2023-08-17 16:39 118阅读 0赞

代码位置：[https://github.com/lilihongjava/deep\_learning/tree/master/%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C%E8%AF%86%E5%88%AB%E7%8C%AB][https_github.com_lilihongjava_deep_learning_tree_master_E7_A5_9E_E7_BB_8F_E7_BD_91_E7_BB_9C_E8_AF_86_E5_88_AB_E7_8C_AB]

### 数据预处理： ###

数据为H5文件，保存训练集有209张64x64的图像，训练集的图像对应的分类值（【0 | 1】，0表示不是猫，1表示是猫）

测试集里面的图像数据（本训练集有50张64x64的图像），测试集的图像对应的分类值（【0 | 1】，0表示不是猫，1表示是猫）

训练集\_图片的维数 : (209, 64, 64, 3)，每个像素点由（R，G，B）三原色构成的，所以要乘以3

训练集\_标签的维数 : (1, 209)

测试集\_图片的维数: (50, 64, 64, 3)

测试集\_标签的维数: (1, 50)

预处理将训练和测试数据压缩为一个平坦的图像方便处理

训练集降维最后的维度： (12288, 209)  
训练集\_标签的维数 : (1, 209)  
测试集降维之后的维度: (12288, 50)  
测试集\_标签的维数 : (1, 50)

### 逻辑回归公式介绍 ###

识别猫项目本质上为逻辑回归，只不过通过神经网络来实现，公式为

![20190929093152946.png][]

python代码激活函数为，此项目中，训练集X维度为(12288, 209)209个样本，w为(12288,1)，![w^\{T\}][w_T]为(1,12288)，b维度为(1, 209)，但在python中可以为一个实数，python会自动转换为(1, 209)--python广播。计算完A的维度为(1,209)

A = sigmoid(np.dot(w.T, X) + b)

所有训练样例求和来计算成本，为什么L损失函数是![\\mathcal\{L\}(a^\{(i)\}, y^\{(i)\}) = - y^\{(i)\} \\log(a^\{(i)\}) - (1-y^\{(i)\} ) \\log(1-a^\{(i)\})\\tag\{3\}][mathcal_L_a_i_ y_i_ _ - y_i_ _log_a_i_ - _1-y_i_ _ _log_1-a_i_tag_3]，而不是![\\mathcal\{L\}(a^\{(i)\}, y^\{(i)\}) = \\frac\{1\}\{2\}(a^\{(i)\}-y^\{(i)\})^\{2\}][mathcal_L_a_i_ y_i_ _ _frac_1_2_a_i_-y_i_2]，因为后面这个函数是非凸函数，可能找不到全局最优值

![20190929093419461.png][]

![20190929101859887.png][]

python代码为：

J = (- 1 / m) * np.sum(Y * np.log(A) + (1 - Y) * (np.log(1 - A)))

逻辑回归的反向传播，关于w和b的偏导数，全局成本函数J是1到m损失函数求和的平均，所以J对w和b的求导也同样是各项损失函数对w和b导数的平均，单个样本dz求导是(a-y)，dw求导是x(a-y)，db求导是(a-y)，所以m个样本的公式为：

![dw=\\frac1m\\sum\_\{i=1\}^mx^\{(i)\}(a^\{(i)\}-y^\{(i)\})][dw_frac1m_sum_i_1_mx_i_a_i_-y_i]

![20190929103023727.png][]

python代码为：

dw = (1 / m) * np.dot(X, (A - Y).T)

db = (1 / m) * np.sum(A - Y)

### 梯度下降 ###

通过最小化成本函数 J来学习 w和b 。对于参数 θ ，更新规则是![\\theta = \\theta - \\alpha \\text\{ \} d\\theta][theta _ _theta - _alpha _text_ _ d_theta]，其中 α 是学习率

### 构建网络步骤 ###

建立神经网络的主要步骤是：  
1. 定义模型结构（例如输入特征的数量）  
2. 初始化模型的参数  
3. 循环：

3.1 计算当前损失（正向传播）

3.2 计算当前梯度（反向传播）

3.3 更新参数（梯度下降）

[https_github.com_lilihongjava_deep_learning_tree_master_E7_A5_9E_E7_BB_8F_E7_BD_91_E7_BB_9C_E8_AF_86_E5_88_AB_E7_8C_AB]: https://github.com/lilihongjava/deep_learning/tree/master/%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C%E8%AF%86%E5%88%AB%E7%8C%AB
[20190929093152946.png]: /images/20230809/811a553e0ccc42df90d86c95a9a292de.png
[w_T]: https://private.codecogs.com/gif.latex?w%5E%7BT%7D
[mathcal_L_a_i_ y_i_ _ - y_i_ _log_a_i_ - _1-y_i_ _ _log_1-a_i_tag_3]: https://private.codecogs.com/gif.latex?%5Cmathcal%7BL%7D%28a%5E%7B%28i%29%7D%2C%20y%5E%7B%28i%29%7D%29%20%3D%20-%20y%5E%7B%28i%29%7D%20%5Clog%28a%5E%7B%28i%29%7D%29%20-%20%281-y%5E%7B%28i%29%7D%20%29%20%5Clog%281-a%5E%7B%28i%29%7D%29%5Ctag%7B3%7D
[mathcal_L_a_i_ y_i_ _ _frac_1_2_a_i_-y_i_2]: https://private.codecogs.com/gif.latex?%5Cmathcal%7BL%7D%28a%5E%7B%28i%29%7D%2C%20y%5E%7B%28i%29%7D%29%20%3D%20%5Cfrac%7B1%7D%7B2%7D%28a%5E%7B%28i%29%7D-y%5E%7B%28i%29%7D%29%5E%7B2%7D
[20190929093419461.png]: /images/20230809/a8ce64e601584dfa94b735d66388150e.png
[20190929101859887.png]: /images/20230809/f46e975fa8b148fea049704b10dd72cb.png
[dw_frac1m_sum_i_1_mx_i_a_i_-y_i]: https://private.codecogs.com/gif.latex?dw%3D%5Cfrac1m%5Csum_%7Bi%3D1%7D%5Emx%5E%7B%28i%29%7D%28a%5E%7B%28i%29%7D-y%5E%7B%28i%29%7D%29
[20190929103023727.png]: /images/20230809/7a3e7d46168149b7a103563ab1f9bc42.png
[theta _ _theta - _alpha _text_ _ d_theta]: https://private.codecogs.com/gif.latex?%5Ctheta%20%3D%20%5Ctheta%20-%20%5Calpha%20%5Ctext%7B%20%7D%20d%5Ctheta