人工神经网络的驱动者：激活函数是什么？

梦里梦外; 2023-01-04 14:58 198阅读 0赞

![format_png][]

全文共**2282**字，预计学习时长**6**分钟

![format_png 1][]

图源：unsplash

激活函数是人工神经网络的驱动因素，其位于神经元之上，并管理着神经元行为，比如是否需要处理某个输入数据，若需要，又以何种程度处理等等。从技术上来讲，某个节点的激活函数将其在神经网络中前一个节点的数据输入，并输出一个确定值，这个值继而指导后续节点如何发动来响应特定输入信号。

本文剖析由激活函数组成的神经网络，以及神经网络的生物类似物，并简要介绍几种常用的激活函数。

神经网络的结构

![format_png 2][]

作为一名数据科学爱好者，你一定见过上面的这张图片或者与之相似的图片。这张图片是对双层神经网络工作流程的经典描述。如图，该网络对猫或狗的图片进行分类，其中有两个隐藏层，每一层包含一行神经元，一行有16个。我们把图片局部放大，放大第二层的第一个神经元。

![format_png 3][]

局部放大之后大致如此。注意，此神经元接受前16个神经元传递的信号。神经元将连接权值与信号相乘，并在乘积上加上一个偏差项，最后得到计算结果，并将其命名为v。此v可视为这个神经元对所输入图像的认知。

在识别到输入信号之后，神经元可产生相应的反应，在此激活函数发挥其作用。激活函数被命名为f()，作为由识别到反应的映射，产生值a，并将其传递到下一层神经元，作为前一层特定神经元对信号做出反应的标志。

生物学类比

假如将手放在逐渐升温的钢锅上，一旦温度超过某个阈值，你就会急切地要拿开手。把手移开时并不需要知道锅的确切温度，而是根据实际参数做出选择。这是神经元在放电，当神经元放电时，指令传递到外围（本例中的手）。

这就是激活函数的来源或者至少与之相似。在这里实际数据是冗余的，神经元只需判断其是否超过阈值。

就目前所知，生物神经元和人工神经元之间的一个显著差异是，前者要么被激活，要么不被激活，只有两种结果，而后者的激活程度是在一定范围内。

激活函数的种类

激活函数多种多样。让我们按照函数所解决问题的顺序，大致学习其中的几种：

·        问题1：学习问题

早期，神经网络的目标是学习自身，线性函数的处理效果相当好。之所以称为线性函数，是因为v = wa + b的近似值与直线方程y = mx + c极为相似。

·        问题2：非线性问题

![format_png 4][]

虽然线性函数非常接近于右侧数据，但是左侧数据却效果不佳。由于非线性分布数据集主导着机器学习领域，而且激活函数是将非线性注入到网络中的唯一适用方法，所以函数就不能是线性的。能够解决这个问题的常见函数有：

Sigmoid函数：在函数内输入一个值，输出值的范围为（0,1）。输入的值越小，输出值越接近于0，输入的值越大，输出值则越接近于1，但都不会达到任一个极限值。

![format_png 5][]

tanh函数：也称双曲正切函数。tanh函数与sigmoid函数非常相似，只是输出值范围为（-1，1）。右侧为sigmoid函数图像，左侧为tanh函数图像。

![format_png 6][]

·        问题3：梯度消失问题

再次观察图表，sigmoid函数曲线越接近于极限值越平缓，也就是说，当输入绝对值非常大的值的时候，输出值的变化不明显。这大大降低了学习率。这就是所谓的梯度消失问题，随着进程推进，梯度（比如，学习）消失。ReLU函数解决了这个问题，实际上它也是现代神经网络的默认激活函数。

ReLU函数：ReLU函数是线性整流函数（Rectified Linear Unit）的简称，它可能是最有趣、最反直觉的函数。它几乎就是一个直线函数，只不过在原点处有个拐角，所以它是一个分段函数。

![format_png 7][]

![format_png 8][]

人们经常会问，一个近似线性的函数是如何解决这个问题的。从图中可以明显看出，它几乎可以完全避免梯度消失问题。单个ReLU函数会显得比较单调乏味，但是多个在一些就会变得无懈可击。

![format_png 9][]

线性函数完全无法近似，而tanh函数试图画出平滑的类圆曲线，所以最终出现了六角形边状的ReLU函数。你可能会认为，这是两个直线的一端接在一起，如同钟表指针那样。

现在，假设有一百万条这样的直线，那么你可以用这种排列方法模拟任何非线性形状。ReLU的精妙之处就在于，它既近似线性，多个组在一起时又能通过改变拐角的角度模拟出几乎所有形状。

这引出了最后一个要解决的问题。

·        问题4：概率和问题

无论隐藏层的工作内容如何，最终的目标都是生成某种预测，而在这里，就是输出一个概率向量，其中包含输入对象为已标记对象概率表。比如，第一张图片中神经网络的结果可能是：

[dog, cow, cat, goat, lamb] = [0. 2, 0.05, 0.7,0.03, 0.01]

结果最有可能是猫，因为是猫的概率为0.7，概率最高。

为了将全连接层的最终输出值转换为正规化概率向量，需要一个函数接受一个向量，然后输出另一个向量，而且输出向量所有元素的和为1。毕竟，这才是概率向量。

Sigmoid函数非常接近于概率函数，因为它的输出值范围为0到1，但是不满足和等于1的情况。Softmax函数可以满足这一点。

Softmax函数：函数接受一个向量，并使用下列函数计算输出向量中每个元素的相应概率。

![format_png 10][]

函数中分母为所有可能分子的和，避免输出值超过1。

关于激活函数，你了解了嘛？

![format_png 11][]

**推荐阅读专题**

[![format_png 12][]][format_png 12 1]

[![format_png 13][]][format_png 13 1]

[![format_png 14][]][format_png 14 1]

[![format_png 15][]][format_png 15 1]

![format_png 16][]

**留言点赞发个朋友圈**

**我们一起分享AI学习与发展的干货**

编译组：李东华、郭芳芳

相关链接：

https://safwan-du16.medium.com/what-are-activation-functions-d40a5f552c77

如转载，请后台留言，遵守转载规范

**推荐文章阅读**

[ACL2018论文集50篇解读][ACL2018_50]

[EMNLP2017论文集28篇论文解读][EMNLP2017_28]

[2018年AI三大顶会中国学术成果全链接][2018_AI]

[ACL2017论文集：34篇解读干货全在这里][ACL2017_34]

[10篇AAAI2017经典论文回顾][10_AAAI2017]

**长按识别二维码可添加关注**

**读芯君爱你**

![format_png 17][]

[format_png]: /images/20221119/89ad8156cff544169c7cc227754db54e.png
[format_png 1]: /images/20221119/314f8a069b9745df9cd2461caaee4182.png
[format_png 2]: /images/20221119/3d4e7aaa1ed6403ab5fa3543a3d41784.png
[format_png 3]: /images/20221119/20f95318fe8c446cbe424f031c7c383b.png
[format_png 4]: /images/20221119/17d0277b78114ddaa96b69812c9f7a7e.png
[format_png 5]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9yTHhHQTg0QlV4bFRBNWFWdjhraWJVcTBwRHU1ZGFpYUJvUmRXejJBdlR6WnFZQ0labW1UUzVhR1FPdVA0MUpvTmliWlcwTlpTM1U4djFYbVV3cHNXWDVIQS82NDA?x-oss-process=image/format,png
[format_png 6]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9yTHhHQTg0QlV4bFRBNWFWdjhraWJVcTBwRHU1ZGFpYUJvMWlicENiRTJYWlltU3JIOFNIQUNPWmNENmx0TTlPaEJ4b2FTemM4N1RWaWFJdTBGVkV5YTFBUlEvNjQw?x-oss-process=image/format,png
[format_png 7]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9yTHhHQTg0QlV4bFRBNWFWdjhraWJVcTBwRHU1ZGFpYUJvcmV1eWFVMFpjTHRBTmZLUElGTmh1TkhVcFpYSjMyU1IxdVhDSGRLMERrdDFnRkl4U3IxeXVRLzY0MA?x-oss-process=image/format,png
[format_png 8]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9yTHhHQTg0QlV4bFRBNWFWdjhraWJVcTBwRHU1ZGFpYUJvbEsxNWE0U1M1S2ljS0RNWjRBNGY5RDZBd2duZnEwaWJhc2FuY1lPOFR3bnNvUUtuUUdaMkpSWUEvNjQw?x-oss-process=image/format,png
[format_png 9]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9yTHhHQTg0QlV4bFRBNWFWdjhraWJVcTBwRHU1ZGFpYUJvNW81anVNbnp0UThMdDV0dWljbVR1TGpYSlFnQUtDWWZ4S0Y2bmQxSW1FR2NKb0p4dHFpY3hpY1hnLzY0MA?x-oss-process=image/format,png
[format_png 10]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9yTHhHQTg0QlV4bFRBNWFWdjhraWJVcTBwRHU1ZGFpYUJvSDJnQ0hZQlVLS3RLS1RGaWJacFRHNEpYSkR1Wm55OFI2QVdocE5ic2RWeXJxTkVFTHl0TDhqQS82NDA?x-oss-process=image/format,png
[format_png 11]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9qTmIwbXlnYjh4Q2RpY21XYTlpY3kwczZ0Mkd5aWJVdDhZRWZnSGx2ekM4eTA5VlhQVVNIMWIwOGdnbW1oczVBNVlPMm5SY1ZpY2I4bU1GMjNnRG9XV1I4Z1EvNjQw?x-oss-process=image/format,png
[format_png 12]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9QTFNBaHVFbEZ4a0czZ0ExUVNleW1zeGduNVdpYmJSeHNOSGdVbmhOWkZDU3ZZdm4wM0s3TXRnV2xoYUJXU214Y29mamxNbmljZ1Bud2p0R0QwbGFiZGxnLzY0MA?x-oss-process=image/format,png
[format_png 12 1]: http://mp.weixin.qq.com/s?__biz=MzI2NjkyNDQ3Mw%3D%3D&chksm=ea841ec4ddf397d2bb194670056d7ed973cf4349656e20d98bd139d8a5d99526a799fb243f8d&idx=1&mid=2247493138&scene=21&sn=d2fa895e71260f2576fa952cf2487522#wechat_redirect
[format_png 13]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9QTFNBaHVFbEZ4azV1aWJCSWpWWkR3MGhqY1ZQTVNtQU5Ld1RwOXJ0VzhSSVA5WjNPalpPV0x5cWxiTm1tSWRQdGNETWlhRzlHUzAxSUN6UmVMaWNYTElpYWcvNjQw?x-oss-process=image/format,png
[format_png 13 1]: http://mp.weixin.qq.com/s?__biz=MzI2NjkyNDQ3Mw%3D%3D&chksm=ea841ed9ddf397cf9a7136dfb1352cf9fb1127b3061293cf716f8ee95b4560e694fce20a1e24&idx=2&mid=2247493135&scene=21&sn=5711dc1074411b7e45b40eb34fecc648#wechat_redirect
[format_png 14]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9QTFNBaHVFbEZ4bE9NdXV6UHFKcmlidkNQekNWWVV4VHRSMWljNVBpYnhKaWJXaWNlTm1DZDVNdm1pYzFWcHgzSWdyODFHUmlhbk9pYmFZcUN0N1FkaHl0eWhpYkNSZy82NDA?x-oss-process=image/format,png
[format_png 14 1]: http://mp.weixin.qq.com/s?__biz=MzI2NjkyNDQ3Mw%3D%3D&chksm=ea841ec4ddf397d28ed77a111732be52384c9be414e0aad59c570ada6b29278755d066ae2090&idx=2&mid=2247493138&scene=21&sn=e45fe93b00342ba9eac222f24369d036#wechat_redirect
[format_png 15]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9QTFNBaHVFbEZ4blZ2QTBrSmdXbTVqR1JBbXhSYUw5amx4SmFDQnhvMTdjeDU3OXdWVWNPRUxlNEZrUGt4YXVQRGVCUHdSSWZMM2xLaWFhQ3VwNWZOaWNRLzY0MA?x-oss-process=image/format,png
[format_png 15 1]: http://mp.weixin.qq.com/s?__biz=MzI2NjkyNDQ3Mw%3D%3D&chksm=ea841ed9ddf397cfbc27f47a160ee926a706f1b3151c53f707c8f221fde0ea51446aabe2148d&idx=1&mid=2247493135&scene=21&sn=cce4cc400933c960a3200fd0dfa4d0a7#wechat_redirect
[format_png 16]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X2pwZy9QTFNBaHVFbEZ4bXl1ZjA0ckNGWE8walI5MGNTdnNUaWFsZkNpY3duUGhoRExrajJKdmFNVHEzRHNaN25ZZ1gyNWxueGd2THh5WWhDMktMNmlheUJjUHpsdy82NDA?x-oss-process=image/format,png
[ACL2018_50]: https://mp.weixin.qq.com/s?__biz=MzI2NjkyNDQ3Mw%3D%3D&chksm=ea87ee2addf0673cae27c598a097f5addad5d81b2ed766e570f20fc0fb12b77c5cf34098022e&idx=1&lang=zh_CN&mid=2247489276&scene=21&sn=98e22e2b69478303f1f1a0a51e712570&token=192322725#wechat_redirect
[EMNLP2017_28]: https://mp.weixin.qq.com/s?__biz=MzI2NjkyNDQ3Mw%3D%3D&chksm=ea87eaadddf063bb3ab4ec5af616612a45f8d4fe9a5ad558f66278478296060253c1564bd05c&idx=1&lang=zh_CN&mid=2247488123&scene=21&sn=a55185f3a693f7a5d85b1abe3dd36177&token=140500370#wechat_redirect
[2018_AI]: https://mp.weixin.qq.com/s?__biz=MzI2NjkyNDQ3Mw%3D%3D&chksm=ea87f6ebddf07ffd8e84bcc18d7122f894b6cf5dc967daad9c2e122edb22968fd6f589d6852f&idx=1&mid=2247487037&scene=21&sn=37cd38b305aa874c29d764361c88a202#wechat_redirect
[ACL2017_34]: https://mp.weixin.qq.com/s?__biz=MzI2NjkyNDQ3Mw%3D%3D&chksm=ea87f59addf07c8c2480dd46784a431612d099d3d0531449aa8e64f68b3ba340363578d95659&idx=1&mid=2247486796&scene=21&sn=a8ae95efbf16985a259c4cd66bf919f2#wechat_redirect
[10_AAAI2017]: https://mp.weixin.qq.com/s?__biz=MzI2NjkyNDQ3Mw%3D%3D&idx=1&lang=zh_CN&mid=2247487100&scene=21&sn=3bd640ec4f00c5104664687194dd9a51&token=77118319#wechat_redirect
[format_png 17]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X2dpZi9RR2o3V0YzbFIwUnhhOU42aEo4eFFwdnNaR2ljR09LSXBpYWtCOXlQQjl3RlFvMWliYVB3ZU9qcDFkYndpYWUzdXg4OERXRWg1dExFcHo2S0pqemNVSDVwOWcvNjQw?x-oss-process=image/format,png