深度学习中的Normalization, BN LN WN等

比眉伴天荒 2022-05-25 13:16 192阅读 0赞

# 收藏两篇相关文章 #

# 一、详解深度学习中的Normalization，不只是BN #

# 转自 https://zhuanlan.zhihu.com/p/33173246    #

#     #

#  #

深度神经网络模型训练之难众所周知，其中一个重要的现象就是 Internal Covariate Shift. Batch Norm 大法自 2015 年由Google 提出之后，就成为深度学习必备之神器。自 BN 之后， Layer Norm / Weight Norm / Cosine Norm 等也横空出世。本文从 Normalization 的背景讲起，用一个公式概括 Normalization 的基本思想与通用框架，将各大主流方法一一对号入座进行深入的对比分析，并从参数和数据的伸缩不变性的角度探讨 Normalization 有效的深层原因。

本文继续沿袭上一个专题（[Adam那么棒，为什么还对SGD念念不忘 —— 一个框架看懂优化算法][Adam_SGD_ _]）的写作思路，先提炼一个通用的分析框架，然后再对号入座式地梳理各大主流算法，便于我们分析比较。

1. 为什么需要 Normalization

——深度学习中的 Internal Covariate Shift 问题及其影响

2. Normalization 的通用框架与基本思想

——从主流 Normalization 方法中提炼出的抽象框架

3. 主流 Normalization 方法梳理

——结合上述框架，将 BatchNorm / LayerNorm / WeightNorm / CosineNorm 对号入座，各种方法之间的异同水落石出。

4. Normalization 为什么会有效？

——从参数和数据的伸缩不变性探讨Normalization有效的深层原因。

以下是正文，enjoy.

--------------------

## 1. 为什么需要 Normalization ##

1.1 独立同分布与白化

机器学习界的炼丹师们最喜欢的数据有什么特点？窃以为，莫过于“独立同分布”了，即*independent and identically distributed*，简称为 *i.i.d.*  独立同分布并非所有机器学习模型的必然要求（比如 Naive Bayes 模型就建立在特征彼此独立的基础之上，而Logistic Regression 和 神经网络 则在非独立的特征数据上依然可以训练出很好的模型），但独立同分布的数据可以简化常规机器学习模型的训练、提升机器学习模型的预测能力，已经是一个共识。

因此，在把数据喂给机器学习模型之前，“白化（whitening）”是一个重要的数据预处理步骤。白化一般包含两个目的：

（1）*去除特征之间的相关性* —> 独立；

（2）*使得所有特征具有相同的均值和方差* —> 同分布。

白化最典型的方法就是PCA，可以参考阅读 [PCAWhitening][]。

1.2 深度学习中的 Internal Covariate Shift

深度神经网络模型的训练为什么会很困难？其中一个重要的原因是，深度神经网络涉及到很多层的叠加，而每一层的参数更新会导致上层的输入数据分布发生变化，通过层层叠加，高层的输入分布变化会非常剧烈，这就使得高层需要不断去重新适应底层的参数更新。为了训好模型，我们需要非常谨慎地去设定学习率、初始化权重、以及尽可能细致的参数更新策略。

Google 将这一现象总结为 Internal Covariate Shift，简称 ICS. 什么是 ICS 呢？

[@魏秀参][Link 1]

在 [一个回答][Link 2]中做出了一个很好的解释：

> 大家都知道在统计机器学习中的一个经典假设是“源空间（source domain）和目标空间（target domain）的数据分布（distribution）是一致的”。如果不一致，那么就出现了新的机器学习问题，如 transfer learning / domain adaptation 等。而 covariate shift 就是分布不一致假设之下的一个分支问题，它是指源空间和目标空间的条件概率是一致的，但是其边缘概率不同，即：对所有 ![x\\in \\mathcal\{X\}][x_in _mathcal_X], ![P\_s(Y|X=x)=P\_t(Y|X=x)\\\\][P_s_Y_X_x_P_t_Y_X_x]但是 ![P\_s(X)\\ne P\_t(X)\\\\][P_s_X_ne P_t_X]大家细想便会发现，的确，对于神经网络的各层输出，由于它们经过了层内操作作用，其分布显然与各层对应的输入信号分布不同，而且差异会随着网络深度增大而增大，可是它们所能“指示”的样本标记（label）仍然是不变的，这便符合了covariate shift的定义。由于是对层间信号的分析，也即是“internal”的来由。

1.3 ICS 会导致什么问题？

简而言之，每个神经元的输入数据不再是“独立同分布”。

其一，上层参数需要不断适应新的输入数据分布，降低学习速度。

其二，下层输入的变化可能趋向于变大或者变小，导致上层落入饱和区，使得学习过早停止。

其三，每层的更新都会影响到其它层，因此每层的参数更新策略需要尽可能的谨慎。

--------------------

## 2. Normalization 的通用框架与基本思想 ##

我们以神经网络中的一个普通神经元为例。神经元接收一组输入向量 ![\\bold\{x\}=(x\_1, x\_2, \\cdots, x\_d)\\\\][bold_x_x_1_ x_2_ _cdots_ x_d] 通过某种运算后，输出一个标量值：

![y=f(\\bold\{x\})\\\\][y_f_bold_x]

由于 ICS 问题的存在， ![\\bold\{x\}][bold_x] 的分布可能相差很大。要解决独立同分布的问题，“理论正确”的方法就是对每一层的数据都进行白化操作。然而标准的白化操作代价高昂，特别是我们还希望白化操作是可微的，保证白化操作可以通过反向传播来更新梯度。

因此，以 BN 为代表的 Normalization 方法退而求其次，进行了简化的白化操作。基本思想是：在将 ![\\bold\{x\}][bold_x] 送给神经元之前，先对其做平移和伸缩变换， 将 ![\\bold\{x\}][bold_x] 的分布规范化成在固定区间范围的标准分布。

通用变换框架就如下所示：

![h=f\\left(\\bold\{g\}\\cdot\\frac\{\\bold\{x\}-\\bold\{\\mu\}\}\{\\bold\{\\sigma\}\}+\\bold\{b\}\\right)\\\\][h_f_left_bold_g_cdot_frac_bold_x_-_bold_mu_bold_sigma_bold_b_right]

我们来看看这个公式中的各个参数。

（1） ![\\bold\{\\mu\}][bold_mu] 是平移参数（shift parameter）， ![\\bold\{\\sigma\}][bold_sigma] 是缩放参数（scale parameter）。通过这两个参数进行 shift 和 scale 变换： ![\\bold\{\\hat\{x\}\}=\\frac\{\\bold\{x\}-\\bold\{\\mu\}\}\{\\bold\{\\sigma\}\}\\\\][bold_hat_x_frac_bold_x_-_bold_mu_bold_sigma] 得到的数据符合均值为 0、方差为 1 的标准分布。

（2） ![\\bold\{b\}][bold_b] 是再平移参数（re-shift parameter）， ![\\bold\{g\}][bold_g] 是再缩放参数（re-scale parameter）。将 上一步得到的 ![\\bold\{\\hat\{x\}\}][bold_hat_x] 进一步变换为： ![\\bold\{y\}=\\bold\{g\}\\cdot \\bold\{\\hat\{x\}\} + \\bold\{b\}\\\\][bold_y_bold_g_cdot _bold_hat_x_ _ _bold_b]

最终得到的数据符合均值为 ![\\bold\{b\}][bold_b] 、方差为 ![\\bold\{g\}^2][bold_g_2] 的分布。

奇不奇怪？奇不奇怪？

说好的处理 ICS，第一步都已经得到了标准分布，第二步怎么又给变走了？

答案是——为了保证模型的表达能力不因为规范化而下降。

我们可以看到，第一步的变换将输入数据限制到了一个全局统一的确定范围（均值为 0、方差为 1）。下层神经元可能很努力地在学习，但不论其如何变化，其输出的结果在交给上层神经元进行处理之前，将被粗暴地重新调整到这一固定范围。

沮不沮丧？沮不沮丧？

难道我们底层神经元人民就在做无用功吗？

所以，为了尊重底层神经网络的学习结果，我们将规范化后的数据进行再平移和再缩放，使得每个神经元对应的输入范围是针对该神经元量身定制的一个确定范围（均值为 ![\\bold\{b\}][bold_b] 、方差为 ![\\bold\{g\}^2][bold_g_2] ）。rescale 和 reshift 的参数都是可学习的，这就使得 Normalization 层可以学习如何去尊重底层的学习结果。

除了充分利用底层学习的能力，另一方面的重要意义在于保证获得非线性的表达能力。Sigmoid 等激活函数在神经网络中有着重要作用，通过区分饱和区和非饱和区，使得神经网络的数据变换具有了非线性计算能力。而第一步的规范化会将几乎所有数据映射到激活函数的非饱和区（线性区），仅利用到了线性变化能力，从而降低了神经网络的表达能力。而进行再变换，则可以将数据从线性区变换到非线性区，恢复模型的表达能力。

那么问题又来了——

经过这么的变回来再变过去，会不会跟没变一样？

不会。因为，再变换引入的两个新参数 g 和 b，可以表示旧参数作为输入的同一族函数，但是新参数有不同的学习动态。在旧参数中， ![\\bold\{x\}][bold_x] 的均值取决于下层神经网络的复杂关联；但在新参数中， ![\\bold\{y\}=\\bold\{g\}\\cdot \\bold\{\\hat\{x\}\} + \\bold\{b\}][bold_y_bold_g_cdot _bold_hat_x_ _ _bold_b 1] 仅由 ![\\bold\{b\}][bold_b] 来确定，去除了与下层计算的密切耦合。新参数很容易通过梯度下降来学习，简化了神经网络的训练。

那么还有一个问题——

这样的 Normalization 离标准的白化还有多远？

标准白化操作的目的是“独立同分布”。独立就不说了，暂不考虑。变换为均值为 ![\\bold\{b\}][bold_b] 、方差为 ![\\bold\{g\}^2][bold_g_2] 的分布，也并不是严格的同分布，只是映射到了一个确定的区间范围而已。（所以，这个坑还有得研究呢！）

--------------------

## 3. 主流 Normalization 方法梳理 ##

在上一节中，我们提炼了 Normalization 的通用公式：

![h=f\\left(\\bold\{g\}\\cdot\\frac\{\\bold\{x\}-\\bold\{\\mu\}\}\{\\bold\{\\sigma\}\}+\\bold\{b\}\\right)\\\\][h_f_left_bold_g_cdot_frac_bold_x_-_bold_mu_bold_sigma_bold_b_right]

对照于这一公式，我们来梳理主流的四种规范化方法。

3.1 Batch Normalization —— 纵向规范化

![v2-13bb64b6122e98421ea3528539c1bffc_hd.jpg][]

Batch Normalization 于2015年由 Google 提出，开 Normalization 之先河。其规范化针对单个神经元进行，利用网络训练时一个 mini-batch 的数据来计算该神经元 ![x\_i][x_i] 的均值和方差,因而称为 Batch Normalization。

![\\mu\_i = \\frac\{1\}\{M\}\\sum\{x\_i\}, \\quad \\sigma\_i= \\sqrt\{\\frac\{1\}\{M\}\\sum\{(x\_i-\\mu\_i)^2\}+\\epsilon \}\\\\][mu_i _ _frac_1_M_sum_x_i_ _quad _sigma_i_ _sqrt_frac_1_M_sum_x_i-_mu_i_2_epsilon]

其中 ![M][] 是 mini-batch 的大小。

按上图所示，相对于一层神经元的水平排列，BN 可以看做一种纵向的规范化。由于 BN 是针对单个维度定义的，因此标准公式中的计算均为 element-wise 的。

BN 独立地规范化每一个输入维度 ![x\_i][x_i] ，但规范化的参数是一个 mini-batch 的一阶统计量和二阶统计量。这就要求 每一个 mini-batch 的统计量是整体统计量的近似估计，或者说每一个 mini-batch 彼此之间，以及和整体数据，都应该是近似同分布的。分布差距较小的 mini-batch 可以看做是为规范化操作和模型训练引入了噪声，可以增加模型的鲁棒性；但如果每个 mini-batch的原始分布差别很大，那么不同 mini-batch 的数据将会进行不一样的数据变换，这就增加了模型训练的难度。

因此，BN 比较适用的场景是：每个 mini-batch 比较大，数据分布比较接近。在进行训练之前，要做好充分的 shuffle. 否则效果会差很多。

另外，由于 BN 需要在运行过程中统计每个 mini-batch 的一阶统计量和二阶统计量，因此不适用于 动态的网络结构 和 RNN 网络。不过，也有研究者专门提出了适用于 RNN 的 BN 使用方法，这里先不展开了。

3.2 Layer Normalization —— 横向规范化

![v2-2f1ad5749e4432d11e777cf24b655da8_hd.jpg][]

层规范化就是针对 BN 的上述不足而提出的。与 BN 不同，LN 是一种横向的规范化，如图所示。它综合考虑一层所有维度的输入，计算该层的平均输入值和输入方差，然后用同一个规范化操作来转换各个维度的输入。

![\\mu = \\sum\_i\{x\_i\}, \\quad \\sigma= \\sqrt\{\\sum\_i\{(x\_i-\\mu)^2\}+\\epsilon \}\\\\][mu _ _sum_i_x_i_ _quad _sigma_ _sqrt_sum_i_x_i-_mu_2_epsilon]

其中 ![i][] 枚举了该层所有的输入神经元。对应到标准公式中，四大参数 ![\\bold\{\\mu\}][bold_mu], ![\\bold\{\\sigma\}][bold_sigma], ![\\bold\{g\}][bold_g], ![\\bold\{b\}][bold_b] 均为标量（BN中是向量），所有输入共享一个规范化变换。

LN 针对单个训练样本进行，不依赖于其他数据，因此可以避免 BN 中受 mini-batch 数据分布影响的问题，可以用于 小mini-batch场景、动态网络场景和 RNN，特别是自然语言处理领域。此外，LN 不需要保存 mini-batch 的均值和方差，节省了额外的存储空间。

但是，BN 的转换是针对单个神经元可训练的——不同神经元的输入经过再平移和再缩放后分布在不同的区间，而 LN 对于一整层的神经元训练得到同一个转换——所有的输入都在同一个区间范围内。如果不同输入特征不属于相似的类别（比如颜色和大小），那么 LN 的处理可能会降低模型的表达能力。

3.3 Weight Normalization —— 参数规范化

前面我们讲的模型框架 ![h=f\\left(\\bold\{g\}\\cdot\\frac\{\\bold\{x\}-\\bold\{\\mu\}\}\{\\bold\{\\sigma\}\}+\\bold\{b\}\\right)\\\\][h_f_left_bold_g_cdot_frac_bold_x_-_bold_mu_bold_sigma_bold_b_right] 中，经过规范化之后的![\\bold\{y\}][bold_y] 作为输入送到下一个神经元，应用以 ![\\bold\{w\}][bold_w] 为参数的![f\_\\bold\{w\}(\\cdot)][f_bold_w_cdot] 函数定义的变换。最普遍的变换是线性变换，即 ![f\_\\bold\{w\}(\\bold\{x\})=\\bold\{w\}\\cdot\\bold\{x\}][f_bold_w_bold_x_bold_w_cdot_bold_x].

BN 和 LN 均将规范化应用于输入的特征数据 ![\\bold\{x\}][bold_x] ，而 WN 则另辟蹊径，将规范化应用于线性变换函数的权重 ![\\bold\{w\}][bold_w] ，这就是 WN 名称的来源。

![v2-93d904e4fff751a0e5b940ab3c27b6d5_hd.jpg][]

具体而言，WN 提出的方案是，将权重向量 ![\\bold\{w\}][bold_w] 分解为向量方向 ![\\hat\{\\bold\{v\}\}][hat_bold_v] 和向量模 ![g][] 两部分：

![\{\\bold\{w\}\} = g\\cdot\\hat\{\\bold\{v\}\} = g\\cdot\\frac\{\\bold\{v\}\}\{\\bold\{||v||\}\}\\\\][bold_w_ _ g_cdot_hat_bold_v_ _ g_cdot_frac_bold_v_bold_v]

其中 ![\\bold\{v\}][bold_v] 是与 ![\\bold\{w\}][bold_w] 同维度的向量， ![\\bold\{||v||\}][bold_v 1]是欧氏范数，因此![\\hat\{\\bold\{v\}\}][hat_bold_v] 是单位向量，决定了 ![\\bold\{w\}][bold_w] 的方向；![g][] 是标量，决定了 ![\\bold\{w\}][bold_w] 的长度。由于 ![||\{\\bold\{w\}\}|| \\equiv |g|][bold_w_ _equiv _g] ，因此这一权重分解的方式将权重向量的欧氏范数进行了固定，从而实现了正则化的效果。

乍一看，这一方法似乎脱离了我们前文所讲的通用框架？

并没有。其实从最终实现的效果来看，异曲同工。我们来推导一下看。 ![f\_\\bold\{w\}(WN(\\bold\{x\}))=\\bold\{w\}\\cdot WN(\\bold\{x\}) = g\\cdot\\frac\{\\bold\{v\}\}\{\\bold\{||v||\}\} \\cdot\\bold\{x\} \\\\= \\bold\{v\}\\cdot g\\cdot\\frac\{\\bold\{x\}\}\{\\bold\{||v||\}\}=f\_\\bold\{v\}(g\\cdot\\frac\{\\bold\{x\}\}\{\\bold\{||v||\}\})][f_bold_w_WN_bold_x_bold_w_cdot WN_bold_x_ _ g_cdot_frac_bold_v_bold_v_ _cdot_bold_x_ _ _bold_v_cdot g_cdot_frac_bold_x_bold_v_f_bold_v_g_cdot_frac_bold_x_bold_v]

对照一下前述框架：

![h=f\\left(\\bold\{g\}\\cdot\\frac\{\\bold\{x\}-\\bold\{\\mu\}\}\{\\bold\{\\sigma\}\}+\\bold\{b\}\\right)\\\\][h_f_left_bold_g_cdot_frac_bold_x_-_bold_mu_bold_sigma_bold_b_right]

我们只需令：

![\\bold\{\\sigma\} = \\bold\{||v||\}, \\quad \\bold\{\\mu\}=0, \\quad \\bold\{b\}=0\\\\][bold_sigma_ _ _bold_v_ _quad _bold_mu_0_ _quad _bold_b_0]

就完美地对号入座了！

回忆一下，BN 和 LN 是用输入的特征数据的方差对输入数据进行 scale，而 WN 则是用 神经元的权重的欧氏范式对输入数据进行 scale。虽然在原始方法中分别进行的是特征数据规范化和参数的规范化，但本质上都实现了对数据的规范化，只是用于 scale 的参数来源不同。

另外，我们看到这里的规范化只是对数据进行了 scale，而没有进行 shift，因为我们简单地令 ![\\bold\{\\mu\}=0][bold_mu_0]. 但事实上，这里留下了与 BN 或者 LN 相结合的余地——那就是利用 BN 或者 LN 的方法来计算输入数据的均值 ![\\bold\{\\mu\}][bold_mu] 。

WN 的规范化不直接使用输入数据的统计量，因此避免了 BN 过于依赖 mini-batch 的不足，以及 LN 每层唯一转换器的限制，同时也可以用于动态网络结构。

3.4 Cosine Normalization —— 余弦规范化

Normalization 还能怎么做？

我们再来看看神经元的经典变换 ![f\_\\bold\{w\}(\\bold\{x\})=\\bold\{w\}\\cdot\\bold\{x\}][f_bold_w_bold_x_bold_w_cdot_bold_x].

对输入数据 ![\\bold\{x\}][bold_x] 的变换已经做过了，横着来是 LN，纵着来是 BN。

对模型参数 ![\\bold\{w\}][bold_w] 的变换也已经做过了，就是 WN。

好像没啥可做的了。

然而天才的研究员们盯上了中间的那个点，对，就是![\\cdot][cdot]

他们说，我们要对数据进行规范化的原因，是数据经过神经网络的计算之后可能会变得很大，导致数据分布的方差爆炸，而这一问题的根源就是我们的计算方式——点积，权重向量 ![\\bold\{w\}][bold_w] 和 特征数据向量 ![\\bold\{x\}][bold_x] 的点积。向量点积是无界（unbounded）的啊！

那怎么办呢？我们知道向量点积是衡量两个向量相似度的方法之一。哪还有没有其他的相似度衡量方法呢？有啊，很多啊！夹角余弦就是其中之一啊！而且关键的是，夹角余弦是有确定界的啊，\[-1, 1\] 的取值范围，多么的美好！仿佛看到了新的世界！

于是，Cosine Normalization 就出世了。他们不处理权重向量 ![\\bold\{w\}][bold_w] ，也不处理特征数据向量 ![\\bold\{x\}][bold_x] ，就改了一下线性变换的函数：

![f\_\\bold\{w\}(\\bold\{x\})=cos \\theta = \\frac\{\\bold\{w\}\\cdot\\bold\{x\}\}\{\\bold\{||w||\}\\cdot\\bold\{||x||\}\}\\\\][f_bold_w_bold_x_cos _theta _ _frac_bold_w_cdot_bold_x_bold_w_cdot_bold_x]

其中 ![\\theta][theta] 是 ![\\bold\{w\}][bold_w] 和 ![\\bold\{x\}][bold_x] 的夹角。然后就没有然后了，所有的数据就都是 \[-1, 1\] 区间范围之内的了！

不过，回过头来看，CN 与 WN 还是很相似的。我们看到上式中，分子还是 ![\\bold\{w\}][bold_w] 和 ![\\bold\{x\}][bold_x] 的内积，而分母则可以看做用 ![\\bold\{w\}][bold_w] 和 ![\\bold\{x\}][bold_x] 二者的模之积进行规范化。对比一下 WN 的公式：

![f\_\\bold\{w\}(WN(\\bold\{x\}))=f\_\\bold\{v\}(g\\cdot\\frac\{\\bold\{x\}\}\{\\bold\{||v||\}\})\\\\][f_bold_w_WN_bold_x_f_bold_v_g_cdot_frac_bold_x_bold_v]

一定程度上可以理解为，WN 用 权重的模 ![\\bold\{||v||\}][bold_v 1] 对输入向量进行 scale，而 CN 在此基础上用输入向量的模 ![\\bold\{||x||\}][bold_x 1] 对输入向量进行了进一步的 scale.

CN 通过用余弦计算代替内积计算实现了规范化，但成也萧何败萧何。原始的内积计算，其几何意义是 输入向量在权重向量上的投影，既包含 二者的夹角信息，也包含 两个向量的scale信息。去掉scale信息，可能导致表达能力的下降，因此也引起了一些争议和讨论。具体效果如何，可能需要在特定的场景下深入实验。

现在，BN, LN, WN 和 CN 之间的来龙去脉是不是清楚多了？

--------------------

## 4. Normalization 为什么会有效？ ##

我们以下面这个简化的神经网络为例来分析。

![v2-2d76cc93f615b3401197a16bc2183e88_hd.jpg][]

4.1 Normalization 的权重伸缩不变性

权重伸缩不变性（weight scale invariance）指的是，当权重 ![\\bold\{W\}][bold_W] 按照常量 ![\\lambda][lambda] 进行伸缩时，得到的规范化后的值保持不变，即：![Norm(\\bold\{W'\}\\bold\{x\})=Norm(\\bold\{W\}\\bold\{x\})\\\\][Norm_bold_W_bold_x_Norm_bold_W_bold_x]

其中 ![\\bold\{W'\}=\\lambda\\bold\{W\}][bold_W_lambda_bold_W] 。

上述规范化方法均有这一性质，这是因为，当权重 ![\\bold\{W\}][bold_W] 伸缩时，对应的均值和标准差均等比例伸缩，分子分母相抵。

![Norm(\\bold\{W'x\})=Norm\\left(\\bold\{g\}\\cdot\\frac\{\\bold\{\\bold\{W'x\}\}-\\bold\{\\mu'\}\}\{\\bold\{\\sigma'\}\}+\\bold\{b\}\\right)\\\\=Norm\\left(\\bold\{g\}\\cdot\\frac\{\\lambda\\bold\{Wx\}-\\lambda\\bold\{\\mu\}\}\{\\lambda\\bold\{\\sigma\}\}+\\bold\{b\}\\right)\\\\=Norm\\left(\\bold\{g\}\\cdot\\frac\{\\bold\{Wx\}-\\bold\{\\mu\}\}\{\\bold\{\\sigma\}\}+\\bold\{b\}\\right)=Norm(\\bold\{Wx\})\\\\][Norm_bold_W_x_Norm_left_bold_g_cdot_frac_bold_bold_W_x_-_bold_mu_bold_sigma_bold_b_right_Norm_left_bold_g_cdot_frac_lambda_bold_Wx_-_lambda_bold_mu_lambda_bold_sigma_bold_b_right_Norm_left_bold_g_cdot_frac_bold_Wx_-_bold_mu_bold_sigma_bold_b_right_Norm_bold_Wx]

权重伸缩不变性可以有效地提高反向传播的效率。

由于

![\\frac\{\\partial Norm(\\bold\{W'x\})\}\{\\partial \\bold\{x\}\} = \\frac\{\\partial Norm(\\bold\{Wx\})\}\{\\partial \\bold\{x\}\} \\\\][frac_partial Norm_bold_W_x_partial _bold_x_ _ _frac_partial Norm_bold_Wx_partial _bold_x_]

因此，权重的伸缩变化不会影响反向梯度的 Jacobian 矩阵，因此也就对反向传播没有影响，避免了反向传播时因为权重过大或过小导致的梯度消失或梯度爆炸问题，从而加速了神经网络的训练。

权重伸缩不变性还具有参数正则化的效果，可以使用更高的学习率。

由于 ![\\frac\{\\partial Norm(\\bold\{W'x\})\}\{\\partial \\bold\{W'\}\} =\\frac\{1\}\{ \\lambda\}\\cdot \\frac\{\\partial Norm(\\bold\{Wx\})\}\{\\partial\\bold\{W\}\} \\\\][frac_partial Norm_bold_W_x_partial _bold_W_ _frac_1_ _lambda_cdot _frac_partial Norm_bold_Wx_partial_bold_W_]

因此，下层的权重值越大，其梯度就越小。这样，参数的变化就越稳定，相当于实现了参数正则化的效果，避免参数的大幅震荡，提高网络的泛化性能。

4.2 Normalization 的数据伸缩不变性

数据伸缩不变性（data scale invariance）指的是，当数据 ![\\bold\{x\}][bold_x] 按照常量 ![\\lambda][lambda] 进行伸缩时，得到的规范化后的值保持不变，即：![Norm(\\bold\{W\}\\bold\{x'\})=Norm(\\bold\{W\}\\bold\{x\})\\\\][Norm_bold_W_bold_x_Norm_bold_W_bold_x 1]

其中 ![\\bold\{x'\}=\\lambda\\bold\{x\}][bold_x_lambda_bold_x] 。

数据伸缩不变性仅对 BN、LN 和 CN 成立。因为这三者对输入数据进行规范化，因此当数据进行常量伸缩时，其均值和方差都会相应变化，分子分母互相抵消。而 WN 不具有这一性质。

数据伸缩不变性可以有效地减少梯度弥散，简化对学习率的选择。

对于某一层神经元 ![h\_l=f\_\{\\bold\{W\}\_l\}(\\bold\{x\}\_l)][h_l_f_bold_W_l_bold_x_l] 而言，展开可得

![h\_l=f\_\{\\bold\{W\}\_l\}(\\bold\{x\}\_l)=f\_\{\\bold\{W\}\_l\}(f\_\{\\bold\{W\}\_\{l-1\}\}(\\bold\{x\}\_\{l-1\}))=\\cdots=\\bold\{x\}\_0\\prod\_\{k=0\}^l\\bold\{W\}\_k\\\\][h_l_f_bold_W_l_bold_x_l_f_bold_W_l_f_bold_W_l-1_bold_x_l-1_cdots_bold_x_0_prod_k_0_l_bold_W_k]

每一层神经元的输出依赖于底下各层的计算结果。如果没有正则化，当下层输入发生伸缩变化时，经过层层传递，可能会导致数据发生剧烈的膨胀或者弥散，从而也导致了反向计算时的梯度爆炸或梯度弥散。

加入 Normalization 之后，不论底层的数据如何变化，对于某一层神经元 ![h\_l=f\_\{\\bold\{W\}\_l\}(\\bold\{x\}\_l)][h_l_f_bold_W_l_bold_x_l] 而言，其输入 ![\\bold\{x\}\_l][bold_x_l] 永远保持标准的分布，这就使得高层的训练更加简单。从梯度的计算公式来看：

![\\frac\{\\partial Norm(\\bold\{Wx'\})\}\{\\partial \\bold\{W\}\} = \\frac\{\\partial Norm(\\bold\{Wx\})\}\{\\partial\\bold\{W\}\} \\\\][frac_partial Norm_bold_Wx_partial _bold_W_ _ _frac_partial Norm_bold_Wx_partial_bold_W_]

数据的伸缩变化也不会影响到对该层的权重参数更新，使得训练过程更加鲁棒，简化了对学习率的选择。

--------------------

## 参考文献 ##

\[1\] Sergey Ioffe and Christian Szegedy. [Accelerating Deep Network Training by Reducing Internal Covariate Shift][].

\[2\] Jimmy L. Ba, Jamie R. Kiros, Geoffrey E. Hinton. [\[1607.06450\] Layer Normalization][1607.06450_ Layer Normalization].

\[3\] Tim Salimans, Diederik P. Kingma. [A Simple Reparameterization to Accelerate Training of Deep Neural Networks][].

\[4\] Chunjie Luo, Jianfeng Zhan, Lei Wang, Qiang Yang. [Using Cosine Similarity Instead of Dot Product in Neural Networks][].

\[5\] Ian Goodfellow, Yoshua Bengio, Aaron Courville. [Deep Learning][].

# 二、加速网络收敛——BN、LN、WN与selu #

# 转自 http://skyhigh233.com/blog/2017/07/21/norm/ #

自Batch Norm出现之后，Layer Norm和Weight Norm作为Batch Norm的变体相继出现。最近又出来一个很”简单”的激活函数Selu，能够实现automatic rescale and shift。这些结构都是为了保证网络能够堆叠的更深的基本条件之一。除了这四种，还有highway network与resnet。

# Batch Norm #

BN对某一层激活值做batch维度的归一化，也就是对于每个batch，该层相应的output位置归一化所使用的mean和variance都是一样的。

*  BN的学习参数包含rescale和shift两个参数；训练的时候不断更新这两个参数和moving average mean and variance
 *  BN在单独的层级之间使用比较方便，比如CNN
 *  像RNN这样unroll之后层数不定，直接用BN不太方便，需要对每一层（每个time step）做BN，并保留每一层的mean和variance。不过由于RNN输入不定长（time step长度不定），可能会有validation或test的time step比train set里面的任何数据都长，因此会造成mean和variance不存在的情况。针对这个情况，需要对每个time step独立做统计。在BN-LSTM中是这么做的：Generalizing the model to sequences longer than those seen during training is straightforward thanks to the rapid convergence of the activations to their steady-state distributions (cf. Figure 5). For our experiments we estimate the population statistics separately for each timestep 1, . . . , Tmax where Tmax is the length of the longest training sequence. When at test time we need to generalize beyond Tmax, we use the population statistic of time Tmax for all time steps beyond it. During training we estimate the statistics across the minibatch, independently for each timestep. At test time we use estimates obtained by averaging the minibatch estimates over the training set.当然，也可以只对输入-隐层进行BN，或者stack RNN中同一个time step的不同层之间做BN
 *  BN会引入噪声（因为是mini batch而不是整个training set），所以对于噪声敏感的方法（如RL）不太适用

BN算法思路如下（注意training和inference时候的区别）。

![norm-1.png][]

# Layer Norm #

LN也是对输出归一化的。LN也是为了消除各层的covariate shift，加快收敛速度。LN相对于BN就简单多了。

*  它在training和inference时没有区别，只需要对当前隐藏层计算mean and variance就行
 *  不需要保存每层的moving average mean and variance
 *  不受batch size的限制，可以通过online learning的方式一条一条的输入训练数据
 *  LN可以方便的在RNN中使用
 *  LN增加了gain和bias作为学习的参数，μ和σ分别是该layer的隐层维度的均值和方差

![norm-2.png][]

![norm-3.png][]

# Weight Norm #

WN是使用参数重写（reparameterization weight normalization）的方法来做归一化的。哪里有weight，哪里就可以用WN来归一化。WN也是用来加速收敛的。通过对weight进行normalization，可以保证在梯度回传的时候，如果梯度越noisy（梯度越大），v的norm就越大，那么g/||v||就越小，从而就会抑制梯度。做到了梯度的自稳定（self-stabilize）。

*  与LN稍不一样，WN只有gain这一个学习参数
 *  前向传播时，BN就是简单的normalization

![norm-4.png][]

*  梯度回传的时候，会对梯度做自稳定

![norm-5.png][]

*  论文里提到了WN能够让learning rate自适应/自稳定

If the learning rate is too large, the norm of the unnormalized weights grows quickly until an appropriate effective learning rate is reached. Once the norm of the weights has grown large with respect to the norm of the updates, the effective learning rate stabilizes.

*  WN与BN一样，只不过BN直接从输出角度出发，WN从weight角度出发

![norm-6.png][]

![norm-7.png][]

*  注意WN的初始化，需要用第一个minibatch的均值和方差来初始化g和b。

![norm-8.png][]

*  Mean-only BN

考虑到BN并不能保证参数v的协方差矩阵为单位矩阵，也就是BN不能保证激活值与v独立。而WN能做到，因此可以结合WN与BN，此时的BN经过修改，只进行去均值操作。

# selu #

最理想的结果就是让每一层输出的激活值为零均值、单位方差，从而能够使得张量在传播的过程当中，不会出现covariant shift，保证回传梯度的稳定性，不会有梯度爆炸或弥散的问题。selu能够很好的实现automatically shift and rescale neuron activations towards zero mean and unit variance without explicit normalization like what batch normalization technique does.

并且可以参考References中的Selus与Leaky Relu以及Relu之间的对比。

# References #

[Weight Normalization: A Simple Reparameterization to Accelerate Training of Deep Neural Networks][Weight Normalization_ A Simple Reparameterization to Accelerate Training of Deep Neural Networks]  
[Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift][Batch Normalization_ Accelerating Deep Network Training by Reducing Internal Covariate Shift]  
[RECURRENT BATCH NORMALIZATION][]  
[Layer Normalization][]  
[深度学习加速策略BN、WN和LN的联系与区别，各自的优缺点和适用的场景？][BN_WN_LN]  
[SELUs (scaled exponential linear units) - Visualized and Histogramed Comparisons among ReLU and Leaky ReLU][SELUs _scaled exponential linear units_ - Visualized and Histogramed Comparisons among ReLU and Leaky ReLU]  
[引爆机器学习圈：「自归一化神经网络」提出新型激活函数SELU][SELU]

[Adam_SGD_ _]: https://zhuanlan.zhihu.com/p/32230623
[PCAWhitening]: https://link.zhihu.com/?target=http%3A//ufldl.stanford.edu/tutorial/unsupervised/PCAWhitening/
[Link 1]: https://www.zhihu.com/people/b716bc76c2990cd06dae2f9c1f984e6d
[Link 2]: https://www.zhihu.com/question/38102762/answer/85238569
[x_in _mathcal_X]: https://www.zhihu.com/equation?tex=x%5Cin+%5Cmathcal%7BX%7D
[P_s_Y_X_x_P_t_Y_X_x]: https://www.zhihu.com/equation?tex=P_s%28Y%7CX%3Dx%29%3DP_t%28Y%7CX%3Dx%29%5C%5C
[P_s_X_ne P_t_X]: https://www.zhihu.com/equation?tex=P_s%28X%29%5Cne+P_t%28X%29%5C%5C
[bold_x_x_1_ x_2_ _cdots_ x_d]: /images/20220525/662de526607540669f8b4acd44f807c9.png%3D%28x_1%2C+x_2%2C+%5Ccdots%2C+x_d%29%5C%5C
[y_f_bold_x]: /images/20220525/cb514392ba2d43e1bf9264f947624457.png
[bold_x]: /images/20220525/662de526607540669f8b4acd44f807c9.png
[h_f_left_bold_g_cdot_frac_bold_x_-_bold_mu_bold_sigma_bold_b_right]: /images/20220525/cd7846d744ca46c0aa70f8c96566869a.png
[bold_mu]: /images/20220525/27a7e39ccb654d97a152e0ef16a34d9f.png
[bold_sigma]: https://www.zhihu.com/equation?tex=%5Cbold%7B%5Csigma%7D
[bold_hat_x_frac_bold_x_-_bold_mu_bold_sigma]: /images/20220525/fac59c25d572459eb69b4e2d8234486e.png
[bold_b]: /images/20220525/3ab5eb817c044b5bbf354e7933d68ed5.png
[bold_g]: https://www.zhihu.com/equation?tex=%5Cbold%7Bg%7D
[bold_hat_x]: https://www.zhihu.com/equation?tex=%5Cbold%7B%5Chat%7Bx%7D%7D
[bold_y_bold_g_cdot _bold_hat_x_ _ _bold_b]: https://www.zhihu.com/equation?tex=%5Cbold%7By%7D%3D%5Cbold%7Bg%7D%5Ccdot+%5Cbold%7B%5Chat%7Bx%7D%7D+%2B+%5Cbold%7Bb%7D%5C%5C
[bold_g_2]: /images/20220525/cea7dfdd15fa4fe1b66fb3472f1540e1.png
[bold_y_bold_g_cdot _bold_hat_x_ _ _bold_b 1]: https://www.zhihu.com/equation?tex=%5Cbold%7By%7D%3D%5Cbold%7Bg%7D%5Ccdot+%5Cbold%7B%5Chat%7Bx%7D%7D+%2B+%5Cbold%7Bb%7D
[v2-13bb64b6122e98421ea3528539c1bffc_hd.jpg]: /images/20220525/374273d2f9244216aeb6753f38ffba55.png
[x_i]: /images/20220525/e1983c2be6244bb6806d6aeed653c299.png
[mu_i _ _frac_1_M_sum_x_i_ _quad _sigma_i_ _sqrt_frac_1_M_sum_x_i-_mu_i_2_epsilon]: https://www.zhihu.com/equation?tex=%5Cmu_i+%3D+%5Cfrac%7B1%7D%7BM%7D%5Csum%7Bx_i%7D%2C+%5Cquad+%5Csigma_i%3D+%5Csqrt%7B%5Cfrac%7B1%7D%7BM%7D%5Csum%7B%28x_i-%5Cmu_i%29%5E2%7D%2B%5Cepsilon+%7D%5C%5C
[M]: /images/20220525/0cd1b133349a41408bcda3f4e73cad9b.png
[v2-2f1ad5749e4432d11e777cf24b655da8_hd.jpg]: /images/20220525/9bb31270e7124cd8a9a5ff308c93ee3c.png
[mu _ _sum_i_x_i_ _quad _sigma_ _sqrt_sum_i_x_i-_mu_2_epsilon]: https://www.zhihu.com/equation?tex=%5Cmu+%3D+%5Csum_i%7Bx_i%7D%2C+%5Cquad+%5Csigma%3D+%5Csqrt%7B%5Csum_i%7B%28x_i-%5Cmu%29%5E2%7D%2B%5Cepsilon+%7D%5C%5C
[i]: https://www.zhihu.com/equation?tex=i
[bold_y]: https://www.zhihu.com/equation?tex=%5Cbold%7By%7D
[bold_w]: /images/20220525/35633278c5ac473f873a7ed1212ed94c.png
[f_bold_w_cdot]: https://www.zhihu.com/equation?tex=f_%5Cbold%7Bw%7D%28%5Ccdot%29
[f_bold_w_bold_x_bold_w_cdot_bold_x]: /images/20220525/71e51e8ae0674c178d70ed1afa5aa2a1.png
[v2-93d904e4fff751a0e5b940ab3c27b6d5_hd.jpg]: /images/20220525/3dc00be04b854f17add42b324addd27e.png
[hat_bold_v]: https://www.zhihu.com/equation?tex=%5Chat%7B%5Cbold%7Bv%7D%7D
[g]: /images/20220525/b72f603d0fd44aa68cc145b0c41c7fb8.png
[bold_w_ _ g_cdot_hat_bold_v_ _ g_cdot_frac_bold_v_bold_v]: https://www.zhihu.com/equation?tex=%7B%5Cbold%7Bw%7D%7D+%3D+g%5Ccdot%5Chat%7B%5Cbold%7Bv%7D%7D+%3D+g%5Ccdot%5Cfrac%7B%5Cbold%7Bv%7D%7D%7B%5Cbold%7B%7C%7Cv%7C%7C%7D%7D%5C%5C
[bold_v]: https://www.zhihu.com/equation?tex=%5Cbold%7Bv%7D
[bold_v 1]: https://www.zhihu.com/equation?tex=%5Cbold%7B%7C%7Cv%7C%7C%7D
[bold_w_ _equiv _g]: https://www.zhihu.com/equation?tex=%7C%7C%7B%5Cbold%7Bw%7D%7D%7C%7C+%5Cequiv+%7Cg%7C
[f_bold_w_WN_bold_x_bold_w_cdot WN_bold_x_ _ g_cdot_frac_bold_v_bold_v_ _cdot_bold_x_ _ _bold_v_cdot g_cdot_frac_bold_x_bold_v_f_bold_v_g_cdot_frac_bold_x_bold_v]: https://www.zhihu.com/equation?tex=+f_%5Cbold%7Bw%7D%28WN%28%5Cbold%7Bx%7D%29%29%3D%5Cbold%7Bw%7D%5Ccdot+WN%28%5Cbold%7Bx%7D%29+%3D+g%5Ccdot%5Cfrac%7B%5Cbold%7Bv%7D%7D%7B%5Cbold%7B%7C%7Cv%7C%7C%7D%7D+%5Ccdot%5Cbold%7Bx%7D+%5C%5C%3D+%5Cbold%7Bv%7D%5Ccdot+g%5Ccdot%5Cfrac%7B%5Cbold%7Bx%7D%7D%7B%5Cbold%7B%7C%7Cv%7C%7C%7D%7D%3Df_%5Cbold%7Bv%7D%28g%5Ccdot%5Cfrac%7B%5Cbold%7Bx%7D%7D%7B%5Cbold%7B%7C%7Cv%7C%7C%7D%7D%29
[bold_sigma_ _ _bold_v_ _quad _bold_mu_0_ _quad _bold_b_0]: https://www.zhihu.com/equation?tex=%5Cbold%7B%5Csigma%7D+%3D+%5Cbold%7B%7C%7Cv%7C%7C%7D%2C+%5Cquad+%5Cbold%7B%5Cmu%7D%3D0%2C+%5Cquad+%5Cbold%7Bb%7D%3D0%5C%5C
[bold_mu_0]: /images/20220525/27a7e39ccb654d97a152e0ef16a34d9f.png%3D0
[cdot]: /images/20220525/f82754c7368a4188bf48e149a6f29ec0.png
[f_bold_w_bold_x_cos _theta _ _frac_bold_w_cdot_bold_x_bold_w_cdot_bold_x]: https://www.zhihu.com/equation?tex=f_%5Cbold%7Bw%7D%28%5Cbold%7Bx%7D%29%3Dcos+%5Ctheta+%3D+%5Cfrac%7B%5Cbold%7Bw%7D%5Ccdot%5Cbold%7Bx%7D%7D%7B%5Cbold%7B%7C%7Cw%7C%7C%7D%5Ccdot%5Cbold%7B%7C%7Cx%7C%7C%7D%7D%5C%5C
[theta]: https://www.zhihu.com/equation?tex=%5Ctheta
[f_bold_w_WN_bold_x_f_bold_v_g_cdot_frac_bold_x_bold_v]: https://www.zhihu.com/equation?tex=+f_%5Cbold%7Bw%7D%28WN%28%5Cbold%7Bx%7D%29%29%3Df_%5Cbold%7Bv%7D%28g%5Ccdot%5Cfrac%7B%5Cbold%7Bx%7D%7D%7B%5Cbold%7B%7C%7Cv%7C%7C%7D%7D%29%5C%5C
[bold_x 1]: /images/20220525/b9998bd455cf417c9012eb347cce2341.png
[v2-2d76cc93f615b3401197a16bc2183e88_hd.jpg]: /images/20220525/179cd95a4a514de8a8dca1b0f1029e6b.png
[bold_W]: /images/20220525/a99142415c2e4885a2aa267ccab905a1.png
[lambda]: https://www.zhihu.com/equation?tex=%5Clambda
[Norm_bold_W_bold_x_Norm_bold_W_bold_x]: /images/20220525/04a6418f140a4321bbf0cfe4830c2564.png
[bold_W_lambda_bold_W]: /images/20220525/95a8a1735fe745dab30af595319fe0d5.png
[Norm_bold_W_x_Norm_left_bold_g_cdot_frac_bold_bold_W_x_-_bold_mu_bold_sigma_bold_b_right_Norm_left_bold_g_cdot_frac_lambda_bold_Wx_-_lambda_bold_mu_lambda_bold_sigma_bold_b_right_Norm_left_bold_g_cdot_frac_bold_Wx_-_bold_mu_bold_sigma_bold_b_right_Norm_bold_Wx]: /images/20220525/5568a3fb57a943a2ab9eb70f0279a204.png
[frac_partial Norm_bold_W_x_partial _bold_x_ _ _frac_partial Norm_bold_Wx_partial _bold_x_]: https://www.zhihu.com/equation?tex=%5Cfrac%7B%5Cpartial+Norm%28%5Cbold%7BW%27x%7D%29%7D%7B%5Cpartial+%5Cbold%7Bx%7D%7D+%3D+%5Cfrac%7B%5Cpartial+Norm%28%5Cbold%7BWx%7D%29%7D%7B%5Cpartial+%5Cbold%7Bx%7D%7D+%5C%5C
[frac_partial Norm_bold_W_x_partial _bold_W_ _frac_1_ _lambda_cdot _frac_partial Norm_bold_Wx_partial_bold_W_]: https://www.zhihu.com/equation?tex=%5Cfrac%7B%5Cpartial+Norm%28%5Cbold%7BW%27x%7D%29%7D%7B%5Cpartial+%5Cbold%7BW%27%7D%7D+%3D%5Cfrac%7B1%7D%7B+%5Clambda%7D%5Ccdot+%5Cfrac%7B%5Cpartial+Norm%28%5Cbold%7BWx%7D%29%7D%7B%5Cpartial%5Cbold%7BW%7D%7D+%5C%5C
[Norm_bold_W_bold_x_Norm_bold_W_bold_x 1]: /images/20220525/d8ba0f8a2e5a4310a736940af2c78401.png
[bold_x_lambda_bold_x]: /images/20220525/28f42ddeff6d455ebe88afb31be38bab.png
[h_l_f_bold_W_l_bold_x_l]: /images/20220525/365dc524a0e740a4872ef1ce001eb7e0.png
[h_l_f_bold_W_l_bold_x_l_f_bold_W_l_f_bold_W_l-1_bold_x_l-1_cdots_bold_x_0_prod_k_0_l_bold_W_k]: /images/20220525/365dc524a0e740a4872ef1ce001eb7e0.png%3Df_%7B%5Cbold%7BW%7D_l%7D%28f_%7B%5Cbold%7BW%7D_%7Bl-1%7D%7D%28%5Cbold%7Bx%7D_%7Bl-1%7D%29%29%3D%5Ccdots%3D%5Cbold%7Bx%7D_0%5Cprod_%7Bk%3D0%7D%5El%5Cbold%7BW%7D_k%5C%5C
[bold_x_l]: /images/20220525/662de526607540669f8b4acd44f807c9.png_l
[frac_partial Norm_bold_Wx_partial _bold_W_ _ _frac_partial Norm_bold_Wx_partial_bold_W_]: https://www.zhihu.com/equation?tex=%5Cfrac%7B%5Cpartial+Norm%28%5Cbold%7BWx%27%7D%29%7D%7B%5Cpartial+%5Cbold%7BW%7D%7D+%3D+%5Cfrac%7B%5Cpartial+Norm%28%5Cbold%7BWx%7D%29%7D%7B%5Cpartial%5Cbold%7BW%7D%7D+%5C%5C
[Accelerating Deep Network Training by Reducing Internal Covariate Shift]: https://link.zhihu.com/?target=https%3A//arxiv.org/abs/1502.03167
[1607.06450_ Layer Normalization]: https://link.zhihu.com/?target=https%3A//arxiv.org/abs/1607.06450
[A Simple Reparameterization to Accelerate Training of Deep Neural Networks]: https://link.zhihu.com/?target=https%3A//arxiv.org/abs/1602.07868
[Using Cosine Similarity Instead of Dot Product in Neural Networks]: https://link.zhihu.com/?target=https%3A//arxiv.org/abs/1702.05870
[Deep Learning]: https://link.zhihu.com/?target=http%3A//www.deeplearningbook.org/
[norm-1.png]: http://odjt9j2ec.bkt.clouddn.com/norm-1.png
[norm-2.png]: http://odjt9j2ec.bkt.clouddn.com/norm-2.png
[norm-3.png]: http://odjt9j2ec.bkt.clouddn.com/norm-3.png
[norm-4.png]: http://odjt9j2ec.bkt.clouddn.com/norm-4.png
[norm-5.png]: http://odjt9j2ec.bkt.clouddn.com/norm-5.png
[norm-6.png]: http://odjt9j2ec.bkt.clouddn.com/norm-6.png
[norm-7.png]: http://odjt9j2ec.bkt.clouddn.com/norm-7.png
[norm-8.png]: http://odjt9j2ec.bkt.clouddn.com/norm-8.png
[Weight Normalization_ A Simple Reparameterization to Accelerate Training of Deep Neural Networks]: https://arxiv.org/pdf/1602.07868.pdf
[Batch Normalization_ Accelerating Deep Network Training by Reducing Internal Covariate Shift]: https://arxiv.org/pdf/1502.03167.pdf
[RECURRENT BATCH NORMALIZATION]: https://arxiv.org/pdf/1603.09025.pdf
[Layer Normalization]: https://arxiv.org/pdf/1607.06450.pdf
[BN_WN_LN]: https://www.zhihu.com/question/59728870
[SELUs _scaled exponential linear units_ - Visualized and Histogramed Comparisons among ReLU and Leaky ReLU]: https://github.com/shaohua0116/Activation-Visualization-Histogram
[SELU]: https://zhuanlan.zhihu.com/p/27362891