04人工智能-卷积神经网络(CNN)原理详解

迷南。 2024-03-17 20:12 84阅读 0赞

## 一、视觉原理 ##

人和动物如何把看到的图像转化为大脑中的一个概念？  
我们知道计算机是把图转换为一大堆数字，通过训练可以知道这堆数字代表什么含义。但通过前面学过神经网络模型和梯度下降法的方法训练费时费力，而且一旦图片进行改变如缩放、旋转或其他变换，那么计算机就识别不出来了。那么人如何记住的呢？例如一本书，看了一次，后面哪怕是破损了，形状变了也能认出来？

## 二、视觉神经实验及神经认知模型 ##

1981年休伯尔和威泽尔做过实验，给动物看不同图片，观察跟视觉相关的大脑中的细胞变化，主要分为两种

*  简单视觉神经细胞：对线条敏感，某个方向线条出现变化就会感应
 *  复杂视觉神经细胞：对线条反应，且对线条的运动产生反应

根据这个实验，提出人是如何检测物体的？日本科学家福岛提出神经认知模型，即人是如何检测物体的是猫还是狗。  
人的大脑中有很多皮层，一层一层对视觉信号进行传输处理。光从眼睛进入后，先计入第一皮层，在进第二皮层，直到最后一个皮层，每个皮层对信号处理的方式是不一样的。

**神经认知模型流程如下；**

*  实际上最开始刚进入视网膜时候是一大堆像素点  
    在第一皮层中，从这些像素点抽出一些特征，如边缘，而边缘是具有方向性的，  
    在第二皮层中，会将提取的边缘特征进行组合，形成物体的轮廓及物体更多细节  
    在第三皮层中，把轮廓和细节组合成一个整体  
    最终做出一个判断。

杨立昆根据这个神经认知模型流程原理（先输入，提取边缘特征，组合组轮廓和细节，在组合轮廓与细节成整体，最后进行判断）发明一种实用的图像识别方法，就是**卷积神经网络**。

## 三、卷积的定义和理解 ##

卷积就是一种数学的方法，这个方法是通过两个函数f 和g 生成第三个函数的一种数学算子。

比如我们有1图片，我们想判断一下这幅图片是不是x，但是实际生活中每个人写字不同，X有很多种写法如下图，但是不管是哪一种写法，他们都有一个共同的特征，比如说都有有一个叉，都有1个往左下的线，有1个往右下的线。越符合这些特征，那么这个图就越有可能是X。因此判断这些图像X就需要提取出这些特征。所以卷积的作用就是用一种数学的方法，能提取出这个图像中我们刚刚说的这些特征。

![d004d72e6c6946a59b35aa71071c3471.png][]

## 四、卷积的计算 ##

我们看 7x7 的图片，想让计算机判断这个黑白图片是不是X。计算机首先要把图像转换为一堆数字，因为是黑白图片，所以黑色0，白色是1，转为数字如下图：

![1221a1e7782740db8c704e4fd2ebeb08.png][]

计算机如何做呢?  
首先是提取特征，那么提取特征的方法就是使用卷积核（也是1个矩阵，通常是3\*3或5\*5）来进行做卷积运算。  
就是把卷积核（矩阵）放到图片对应的位置进行对应位置数据相乘再求和，然后放到被卷积核覆盖区域的中间的位置。卷积核向右平移1个单元，再次执行相同操作，依次类推，**于是就形成1张新的图，这张图就叫做特征图**。

![5ac24babf03c4d649d0569bfcbf5a534.png][]

![2b57f064b5b0469fb1175aa66bc0c94f.png][]

![bfb9a2dbc57142a188a19506288d7739.gif][]

通过卷积核进行卷积运算得到的特征图结果如下，我们进行分析，在原图中，如果右下斜线都是1，而卷积核也是右下斜线是1，那么他们经过卷积运算得到的结果就会比较大，也就是说我们提取到了这些特征。（例如在特征图中的右下斜线中的3表明特征明显，而2则表示特征弱一点，而实际上我们他原图中顶脚是左上和右下都是0，也比较符合。而特征图中0和1表示原图中对应位置没有右下斜线的特征）。

![b1d34df76d234361bcd3a82b5bc72fe4.png][]

## 五、池化和激活 ##

### 池化： ###

可以看出，当图像尺寸增大时，其内部的加法、乘法和除法操作的次数会增加得很快，每一个filter的大小和filter的数目呈线性增长。由于有这么多因素的影响，很容易使得计算量变得相当庞大。 为了有效地减少计算量，CNN使用的另一个有效的工具被称为“池化(Pooling)”。池化就是将输入图像进行缩小，减少像素信息，只保留重要信息。

并且**经过卷积后的特征图可能还是比较大，不方便计算**，则可以按区域对特征图进行提取，选取区区域中最大值，这个值一般也代表原图中的特征，如下图所示，对第一个区域取最大值为3（代表原图中的特征），第二个区域最大值为1，第三区域最大值为1，以此类推。得到池化后特征图结果。

我们看到最后池化的结果仍然是1个特征图，仍然是存在原图中的主要特征(右下斜线的特征，这些特征都比较大)。**通过加入池化层，图像缩小了，能很大程度上减少计算量，降低机器负载。**

![abc168ac7fdb4c489fa88868b9d6b5a0.png][]

### 激活： ###

在前面所讲的神经网络，我们使用的是Sigmod函数作为激活函数。自变量越小，函数值越接近于0，自变量越大，函数值越接近于1。函数值为1，则说明激活了，会向下游传递信号。  
此时需要对池化后的特征图结果使用的是Sigmod函数进行激活，于是就将池化后的特征图转换为0-1之间的数据。

![34702a14cf9e490b9a959b5c61a9fcfd.png][]

通过激活后的结果看到，数字越接近于1，这个地方越满足卷积核的特性。

**问题：卷积核是如何设定的？**

最开始是人为设定的，但随着机器学习，会根据数据进行反向调节这个卷积核（和前面讲的用参数训练的方式一样），通过不断学习，不断调节，找到最能满足特征的卷积核，这个卷积核就是最终模型要保存的参数数据。

![fcea8771ced2409b894c70b5a789470f.png][]

### 全连接计算： ###

全连接层在整个卷积神经网络中起到“分类器”的作用，即通过卷积、激活函数、池化等深度网络后，再经过全连接层对结果进行识别分类。如下图：

![6a8ba2d1a62d467c90b8e08363b8caa1.png][]

#### **1、结果串连** ####

首先将经过卷积、激活函数、池化的深度网络后的结果串起来，如下图所示：

![add4b29300dc4bd5a9deaafcb42c0e0b.png][]

#### 2、获取全连接权重 ####

由于神经网络是属于监督学习，在模型训练时，根据训练样本对模型进行训练，从而得到全连接层的权重（例如获取预测字母X的所有连接的权重）

![f6cda10ceefe4d74af764c02508c47ab.png][]

#### 3、 预测值的计算 ####

在利用该模型进行结果识别时，根据刚才提到的模型训练得出来的权重，以及经过前面的卷积、激活函数、池化等深度网络计算出来的结果，进行加权求和，得到各个结果的预测值，然后取值最大的作为识别的结果（如下图，最后计算出来字母X的识别值为0.92，字母O的识别值为0.51，则结果判定为X）

![e3301e09fe784e63872a879284a2ed11.png][]

上述这个过程定义的操作为”全连接层“(Fully connected layers)，全连接层也可以有多个，如下图：

![52d70daadacf4d4ca03ac5d48ff7ded5.png][]

## 六、**卷积神经网络（Convolutional Neural Networks）** ##

将以上所有结果串起来后，就形成了一个“卷积神经网络”（CNN）结构，如下图所示：

![b35c478076134a1d97c3ec48fef017f3.png][]

总结：卷积神经网络主要由两部分组成，下图便是著名的手写文字识别卷积神经网络结构图

*  一部分是特征提取（卷积、激活函数、池化）
 *  另一部分是分类识别（全连接层）

![6b60eb31aac34dc0aed2edf3dfd571e1.png][]

## 七、算法、数据、算力 ##

算法无非就是 + - \*，只是计算量比较大而已。例如3通道800x600的图片，像素点= 800x600x3 = 1440000个。如果用3x3x3（3个通道则3个3x3卷积核）的卷积核，则运算的次数需要 130000次乘法和120000次加法。

此时只是1张800x600的图片就需要这么多次计算 ，而实际上有些时候需要训练的图片是成千上万张，图片可能是更大的（如：5742x3822），则计算的次数需要更多。此时算力显得尤为重要。

能体现算力的有以下几种方式：

*  cpu：中央处理器，通用性强(什么都可以算），但串行能力差。
 *  gpu：图形处理器（用于图像渲染），专用行强，但并行能力强。
 *  npu：神经网络处理器，专门计算人工智能的处理器（具有cpu和gup特点），如华为升腾910AI处理器，有32个核，每个核是16x16x16=4096的矩阵。

[上一篇：神经网络][Link 1]

[d004d72e6c6946a59b35aa71071c3471.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/cb7caa6e839743f2b783a928adf394fd.png
[1221a1e7782740db8c704e4fd2ebeb08.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/da11208c38bb472d850ff0e78f8b8065.png
[5ac24babf03c4d649d0569bfcbf5a534.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/77cf29dddf134586a06e7359a3bb5427.png
[2b57f064b5b0469fb1175aa66bc0c94f.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/c4d90e8ee8ee4a9cb2c9502bbc2f6577.png
[bfb9a2dbc57142a188a19506288d7739.gif]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/93122b01d22d4eeab99defdd756642c5.png
[b1d34df76d234361bcd3a82b5bc72fe4.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/252f537ba0cd4d7b9f80b39d2d6b4bc3.png
[abc168ac7fdb4c489fa88868b9d6b5a0.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/ffd6af32e9004ec0ac394df3615cfffb.png
[34702a14cf9e490b9a959b5c61a9fcfd.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/119193d2cef84c72ba3a7839d5bbbd51.png
[fcea8771ced2409b894c70b5a789470f.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/24072a3935214aa29315125c690ec344.png
[6a8ba2d1a62d467c90b8e08363b8caa1.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/e2037f87731040cea4e91c8b74ea393b.png
[add4b29300dc4bd5a9deaafcb42c0e0b.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/88665b408c0c4dfab6986d205bdc58fe.png
[f6cda10ceefe4d74af764c02508c47ab.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/cedb41b22e924d5b972a0167166d32fa.png
[e3301e09fe784e63872a879284a2ed11.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/078293a51f094c728176559b1be889a1.png
[52d70daadacf4d4ca03ac5d48ff7ded5.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/677e1a56e3dd4600b7614331361f65d1.png
[b35c478076134a1d97c3ec48fef017f3.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/427230ecf3a24875926f7c7665d09b58.png
[6b60eb31aac34dc0aed2edf3dfd571e1.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/67acf59def634665b7586a49b75cd19a.png
[Link 1]: https://blog.csdn.net/qq_41946216/article/details/131714541?spm=1001.2014.3001.5501