vgg19全局平均池化代替全连接层_第四周[任务3]学习卷积和池化

朴灿烈づ我的快乐病毒、 2022-10-27 12:21 24阅读 0赞

## 一、任务简介 ##

斯坦福CS231n关于卷积和池化课程

2017CS231n 斯坦福李飞飞计算机视觉识别\_哔哩哔哩 (゜-゜)つロ 干杯~-bilibiliwww.bilibili.com

![bb64dbfa7f9ae9e9d6871902d7ef7364.png][]

## 二、任务详情 ##

学习卷积核和池化，掌握特征图与参数量的计算方法，掌握卷积的计算方式。

## 三、任务作业 ##

**1、卷积与全连接的区别**

卷积层可以保全空间结构，对于32\*32\*3的输入图像，不是把它展成一个长的向量，而是三维数据输入，可以保持图片的结构

**2、Input =224X224X3 filter=5X5 pad=0 strides=2 卷积核深度是多少， 使用1个filter卷积得到特征图尺寸**

卷积核深度为3，要和输入图像的深度保持一致；

得到的特征图尺寸：（224+0\*2-5）/2+1 = 110.5，取110，

最后尺寸大小为110\*110\*1

**3、使用10个filter 卷积得到特征图尺寸，并求此时的参数量是多少(不包含偏置)**

尺寸大小为：110\*110\*10.

参数量大小为：5\*5\*3\*10=750

如果包含偏置的话：每一层5\*5\*3+1=76

总共参数量：76\*10 = 760

**4、1\*1卷积的作用有哪些**

可以改变通道数的大小

**5、网络不同层学到的分别是什么特征（大概）**

浅层卷积学习到的是一些低阶的图像特征（比如边缘特征），中间层学习到一些更加复杂的图像特征（比如边角和斑点），后边层是更加丰富的特征 。

**6、池化层中最大池化和均值池化**

最大池化保留了纹理特征,平均池化保留整体的数据特征

全局信息都有贡献时可以选择平均池化，在网络中一般在浅层使用最大池化过滤一些无用信息，在网络最后一般使用的是平均池化，因为网络深层的高级语义信息可以有助于分类器对类别进行分类。

一般不在池化层做padding操作

**7、总结：**

**（1）卷积之后输出图像尺寸：**

![equation?tex=I\_%7Bout%7D+%3D+%28I\_%7Bin%7D%2B2%2AP-F%29%2FS%2B1][equation_tex_I_7Bout_7D_3D_28I_7Bin_7D_2B2_2AP-F_29_2FS_2B1]

![equation?tex=I\_%7Bin%7D][equation_tex_I_7Bin_7D] : 输入图像大小

P：padding的设置（即是否用0填充图像边界）

F：卷积核大小

S：步长

若最后计算结果不为整数，比如9.5，卷积层向下取整（取9），池化层向上取整（取10）

**（2）参数量和计算量：**

计算量对应时间复杂度，参数量对应空间复杂度，计算量要看网络执行时间的长短，参数量要看占用显存的量

**1）卷积层参数量计算（带偏置)：**

![equation?tex=%EF%BC%88F%2AF%2AC\_%7Bin%7D%EF%BC%89%2AC\_%7Bout%7D%2BC\_%7Bout%7D][equation_tex_EF_BC_88F_2AF_2AC_7Bin_7D_EF_BC_89_2AC_7Bout_7D_2BC_7Bout_7D]

**2）卷积层参数量计算（不带偏置）：**

![equation?tex=%EF%BC%88F%2AF%2AC\_%7Bin%7D%EF%BC%89%2AC\_%7Bout%7D][equation_tex_EF_BC_88F_2AF_2AC_7Bin_7D_EF_BC_89_2AC_7Bout_7D]

![equation?tex=C\_%7Bin%7D][equation_tex_C_7Bin_7D] 表示输入通道数量

![equation?tex=C\_%7Bout%7D][equation_tex_C_7Bout_7D] 表示输出通道数量

**3）卷积层的计算量（带偏置）：**

![equation?tex=%28C\_%7Bin%7D%2AF%2AF%2B1%29%2A%28C\_%7Bout%7D%2AI\_%7Bout%7D%2AI\_%7Bout%7D%29][equation_tex_28C_7Bin_7D_2AF_2AF_2B1_29_2A_28C_7Bout_7D_2AI_7Bout_7D_2AI_7Bout_7D_29]

**4）卷积层的计算量（不带偏置）：**

![equation?tex=%28C\_%7Bin%7D%2AF%2AF%29%2A%28C\_%7Bout%7D%2AI\_%7Bout%7D%2AI\_%7Bout%7D%29][equation_tex_28C_7Bin_7D_2AF_2AF_29_2A_28C_7Bout_7D_2AI_7Bout_7D_2AI_7Bout_7D_29]

**5）卷积层参数量和计算量的关系：**

计算量=参数量\*（

![equation?tex=I\_%7Bout%7D%2AI\_%7Bout%7D][equation_tex_I_7Bout_7D_2AI_7Bout_7D] ）

**6）全连接层参数量计算（带偏置)：**

![equation?tex=C\_%7Bin%7D%2AC\_%7Bout%7D%2BC\_%7Bout%7D][equation_tex_C_7Bin_7D_2AC_7Bout_7D_2BC_7Bout_7D]

**7）全连接层参数量计算（不带偏置)：**

![equation?tex=C\_%7Bin%7D%2AC\_%7Bout%7D][equation_tex_C_7Bin_7D_2AC_7Bout_7D]

全连接层的计算量和参数量相等

[bb64dbfa7f9ae9e9d6871902d7ef7364.png]: /images/20221024/6370218a9f8f46adb13333b6660fe940.png
[equation_tex_I_7Bout_7D_3D_28I_7Bin_7D_2B2_2AP-F_29_2FS_2B1]: https://www.zhihu.com/equation?tex=I_%7Bout%7D+%3D+%28I_%7Bin%7D%2B2%2AP-F%29%2FS%2B1
[equation_tex_I_7Bin_7D]: /images/20221024/464ab9ae41664425a78f78e73af0c66e.png
[equation_tex_EF_BC_88F_2AF_2AC_7Bin_7D_EF_BC_89_2AC_7Bout_7D_2BC_7Bout_7D]: /images/20221024/4a31892a4ebf4cfaac22f13e2fc5cbe6.png
[equation_tex_EF_BC_88F_2AF_2AC_7Bin_7D_EF_BC_89_2AC_7Bout_7D]: /images/20221024/aff8724d438f49ee880ace3c80b91569.png
[equation_tex_C_7Bin_7D]: /images/20221024/c39042defc1745d493c1bdb216f98352.png
[equation_tex_C_7Bout_7D]: /images/20221024/d784981e248f4635b09ffd41ec144731.png
[equation_tex_28C_7Bin_7D_2AF_2AF_2B1_29_2A_28C_7Bout_7D_2AI_7Bout_7D_2AI_7Bout_7D_29]: /images/20221024/2b47ee8e87aa407eae42d52df9071668.png
[equation_tex_28C_7Bin_7D_2AF_2AF_29_2A_28C_7Bout_7D_2AI_7Bout_7D_2AI_7Bout_7D_29]: /images/20221024/36945fc41ae94dbe9dbd07404de13c7d.png
[equation_tex_I_7Bout_7D_2AI_7Bout_7D]: /images/20221024/8db5b90df1b64c53bb1adedc71fccbd3.png
[equation_tex_C_7Bin_7D_2AC_7Bout_7D_2BC_7Bout_7D]: /images/20221024/c39042defc1745d493c1bdb216f98352.png%2AC_%7Bout%7D%2BC_%7Bout%7D
[equation_tex_C_7Bin_7D_2AC_7Bout_7D]: /images/20221024/c39042defc1745d493c1bdb216f98352.png%2AC_%7Bout%7D