神经网络学习小记录28——深度卷积神经网络各种改进结构块汇总

小鱼儿 2023-06-12 12:30 3阅读 0赞

### 神经网络学习小记录28——深度卷积神经网络各种改进结构块汇总 ###

*  学习前言
 *  1、残差网络
 *  2、不同大小卷积核并行卷积
 *  3、利用(1,x),(x,1)卷积代替(x,x)卷积
 *  4、采用瓶颈(Bottleneck)结构
 *  5、深度可分离卷积
 *  6、改进版深度可分离卷积+残差网络
 *  7、倒转残差(Inverted residuals)结构
 *  8、并行空洞卷积

# 学习前言 #

看了好多代码呀，看了后面忘了前面，这个BLOG主要是记录一些神经网络的改进结构，比如残差结构那种，记录下来有助于自己设计一些轻且好的网络。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center]

# 1、残差网络 #

这个网络主要源自于Resnet网络，其作用是：  
**将靠前若干层的某一层数据**输出直接**跳过多层**引入到**后面数据层的输入部分。**  
意味着**后面的特征层的内容会有一部分由其前面的某一层线性贡献。**  
实验表明，**残差网络更容易优化，并且能够通过增加相当的深度来提高准确率。**

最终可以使得网络越来越深，Resnet152就是一个很深很深的网络。

残差网络的典型结构如下：  
![在这里插入图片描述][20191113094135752.png_pic_center]

# 2、不同大小卷积核并行卷积 #

这个结构主要是在Inception网络结构中出现。  
**Inception网络采用不同大小的卷积核，使得存在不同大小的感受野，最后实现拼接达到不同尺度特征的融合。**

不同大小卷积核并行卷积的典型结构如下：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 1]

# 3、利用(1,x),(x,1)卷积代替(x,x)卷积 #

这种结构主要利用在InceptionV3中。  
**利用1x7的卷积和7x1的卷积代替7x7的卷积，这样可以只使用约（1x7 + 7x1) / (7x7) = 28.6%的计算开销；利用1x3的卷积和3x1的卷积代替3x3的卷积，这样可以只使用约（1x3 + 3x1) / (3x3) = 67%的计算开销。**  
下图利用1x7的卷积和7x1的卷积代替7x7的卷积。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 2]  
下图利用1x3的卷积和3x1的卷积代替3x3的卷积。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 3]

# 4、采用瓶颈(Bottleneck)结构 #

这个结构在Resnet里非常常见，其它网络也有用到。  
所谓Bottleneck结构**就是首先利用1x1卷积层进行特征压缩，再利用3x3卷积网络进行特征提取，再利用1x1卷积层进行特征扩张**。

该结构相比于直接对输入进行3x3卷积减少了许多参数量。

**当输入为26,26,512时，直接使用3x3、filter为512的卷积网络的参数量为512x3x3x512=2,359,296‬。**

**采用Bottleneck结构的话，假设其首先利用1x1、filter为128卷积层进行特征压缩，再利用3x3、filter为128的卷积网络进行特征提取，再利用1x1、filter为512的卷积层进行特征扩张，则参数量为 512×1×1×128 + 128×3×3×128 + 128×1×1×512 =‬ 278,528。**

可以看出来确实时下降了很多呀。  
![在这里插入图片描述][2019111310144189.png_pic_center]

# 5、深度可分离卷积 #

深度可分离卷积主要在MobileNet模型上应用。  
其特点是**3x3的卷积核厚度只有一层，然后在输入张量上一层一层地滑动，每一次卷积完生成一个输出通道，当卷积完成后，在利用1x1的卷积调整厚度。**  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 4]  
**假设有一个3×3大小的卷积层，其输入通道为16、输出通道为32。具体为，32个3×3大小的卷积核会遍历16个通道中的每个数据，最后可得到所需的32个输出通道，所需参数为16×32×3×3=4608个。**

**应用深度可分离卷积，用16个3×3大小的卷积核分别遍历16通道的数据，得到了16个特征图谱。在融合操作之前，接着用32个1×1大小的卷积核遍历这16个特征图谱，所需参数为16×3×3+16×32×1×1=656个。**

# 6、改进版深度可分离卷积+残差网络 #

这种结构主要存在在Xception网络中。  
**改进版深度可分离卷积就是调换了一下深度可分离的顺序，先进行1x1卷积调整通道，再利用3x3卷积提取特征。**  
和普通的深度可分离卷积相比，参数量也会有一定的变化。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 5]  
**改进版深度可分离卷积加上残差网络的结构其实和它的名字是一样的**，很好理解。  
如下图所示：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 6]

# 7、倒转残差(Inverted residuals)结构 #

在ResNet50里我们认识到一个结构，bottleneck design结构，**在3x3网络结构前利用1x1卷积降维，在3x3网络结构后，利用1x1卷积升维，相比直接使用3x3网络卷积效果更好，参数更少**，先进行**压缩**，再进行**扩张**。

而Inverted residuals结构，**在3x3网络结构前利用1x1卷积升维，在3x3网络结构后，利用1x1卷积降维**，先进行**扩张**，再进行**压缩**。  
这种结构主要用在MobilenetV2中。  
其主要结构如下：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 7]

# 8、并行空洞卷积 #

这个结构出现在Deeplabv3语义分割中。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 8]  
**其经过并行的空洞卷积，分别用不同rate的空洞卷积进行特征提取，再进行合并，再进行1x1卷积压缩特征。**

空洞卷积可以在不损失信息的情况下，加大了感受野，让每个卷积输出都包含较大范围的信息\*\*。如下就是空洞卷积的一个示意图，所谓空洞就是特征点提取的时候**会跨像素**。

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 9]

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center]: https://img-blog.csdnimg.cn/20190723144346254.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA==,size_16,color_FFFFFF,t_70#pic_center
[20191113094135752.png_pic_center]: https://img-blog.csdnimg.cn/20191113094135752.png#pic_center
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 1]: https://img-blog.csdnimg.cn/2019111309515588.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA==,size_16,color_FFFFFF,t_70#pic_center
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 2]: https://img-blog.csdnimg.cn/20191113095610269.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA==,size_16,color_FFFFFF,t_70#pic_center
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 3]: https://img-blog.csdnimg.cn/2019111309572648.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA==,size_16,color_FFFFFF,t_70#pic_center
[2019111310144189.png_pic_center]: https://img-blog.csdnimg.cn/2019111310144189.png#pic_center
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 4]: https://img-blog.csdnimg.cn/20191113102248615.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA==,size_16,color_FFFFFF,t_70#pic_center
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 5]: https://img-blog.csdnimg.cn/20191030153415362.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA==,size_16,color_FFFFFF,t_70#pic_center
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 6]: https://img-blog.csdnimg.cn/2019111310354382.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA==,size_16,color_FFFFFF,t_70#pic_center
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 7]: https://img-blog.csdnimg.cn/201911131056046.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA==,size_16,color_FFFFFF,t_70#pic_center
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 8]: https://img-blog.csdnimg.cn/2019111120553160.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA==,size_16,color_FFFFFF,t_70#pic_center
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 9]: https://img-blog.csdnimg.cn/20191111205857843.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA==,size_16,color_FFFFFF,t_70#pic_center

发表评论取消回复

表情：

评论列表（有 0 条评论，3人围观）

还没有评论，来说两句吧...

相关阅读

相关深度学习卷积神经网络

目录 1 CNN网络的构成 2 卷积层 2.1 卷积的计算方法 2.2 padding（填充） 2.3 stride（

怼烎@/ 2024年03月31日 14:55/ 0 赞/ 191 阅读

相关【深度学习】卷积神经网络（CNN）

一、引子————边界检测我们来看一个最简单的例子：“边界检测（edge detection）”，假设我们有这样的一张图片，大小8×8： ![快速图文理解卷积神经网络（

客官°小女子只卖身不卖艺/ 2024年02月17日 09:01/ 0 赞/ 116 阅读

相关卷积神经网络CNN与深度卷积神经网络-学习笔记

卷积神经网络与深度卷积神经网络学习总结笔记 0. 卷积神经网络基础 0.1 二维卷积层（二维卷积层，常用于处理图像数据） 0.1.1

爱被打了一巴掌/ 2023年07月18日 02:55/ 0 赞/ 88 阅读

相关神经网络学习小记录34——利用PyTorch实现卷积神经网络

神经网络学习小记录34——利用PyTorch实现卷积神经网络学习前言 PyTorch中实现卷积的重要基础函数 1、nn.Conv2d:

叁歲伎倆/ 2023年06月24日 11:25/ 0 赞/ 80 阅读

相关神经网络学习小记录28——深度卷积神经网络各种改进结构块汇总

神经网络学习小记录28——深度卷积神经网络各种改进结构块汇总学习前言 1、残差网络 2、不同大小卷积核并行卷积 3、利用(1,x),(x,1)卷

小鱼儿/ 2023年06月12日 12:30/ 0 赞/ 4 阅读

相关神经网络学习小记录24——卷积神经网络经典模型及其改进点汇总

神经网络学习小记录24——卷积神经网络经典模型及其改进点汇总学习前言经典神经网络的改进点经典神经网络的结构汇总 1、VGG16

逃离我推掉我的手/ 2023年06月11日 12:27/ 0 赞/ 41 阅读

相关卷积神经网络之(深度卷积神经网络)AlexNet

卷积神经网络之AlexNet 2012年AlexNet横空出世，赢得了ImageNet2012图像识别挑战赛。首次证明了学习到的特征可以超越手工设计的特征。 Alex

绝地灬酷狼/ 2022年12月25日 13:52/ 0 赞/ 290 阅读

相关【深度学习】卷积神经网络速成

【深度学习】卷积神经网络速成文章目录【深度学习】卷积神经网络速成 1 概述 2 组成 2.1 卷积层 2.2 池化层

我就是我/ 2022年11月19日 06:29/ 0 赞/ 267 阅读

相关神经网络-卷积神经网络

卷积神经网络最基本的操作：卷积、池化、全连接 1、卷积操作什么是卷积操作？我们先定义一个目的，让卷积神经网络去识别数字 “17” 和字母 “L”。有三张图片，

小鱼儿/ 2022年11月12日 01:41/ 0 赞/ 434 阅读

相关深度学习：卷积神经网络CNN

http://[blog.csdn.net/pipisorry/article/details/76571670][blog.csdn.net_pipisorry_articl

我会带着你远行/ 2022年06月11日 07:18/ 0 赞/ 515 阅读