频率派与贝叶斯派，极大似然估计与最大后验概率

痛定思痛。 2022-08-28 08:58 133阅读 0赞

# 写在开头 #

我是2021年7月份左右开始正式接触深度学习的知识，导师让我们准研一的几位同学暑假的时候在实验室完成一些预训练任务。  
任务包括一些**典型深度学习算法的复现**以及\*\*“花书“”的阅读\*\*，所以在那两个月期间我产出的一些博文内容也是和这方面相关，比如**Image Captioning**，**Transformer**以及**Pixel2Pixel**等。  
经过3个月的学习，到了现在的十月份，我总结了下现阶段遇到的问题，我想应该会与许多深度学习的初学者产生共鸣：

1.  论文阅读方面，我现在接触到绝大部分都是一些领域的经典算法论文，对具体领域起到了巨大的推进作用。而在阅读这些论文的过程中，一旦涉及到了**数学理论的推导**或者是**传统机器算法的思想**，我只能选择跳过。大学期间学习到的数学知识完全不能被我运用到其中。
2.  就上面那条具体谈谈数学方面。21年考研的数一我考了125分，在全国考生中应该是属于中等偏上的水平。可是在涉及到深度学习或者说是机器学习中的数学公式推导我发现完全摸不着头脑。**网上有不少人说机器学习只要会点多元函数微积分，线性代数和概率论的知识完全没问题**。实际经历告诉我，上面这句话完全是扯淡。首先，大学期间我们学习的数学大多数是为了应试，计算方面你可能没问题（当然，如果一段时间不看，你可能算都不会算了），但是要你在实际问题上去建立数学模型可能就不行了。其次，机器学习中有些数学知识在大学阶段是没有接触到的，比如最大后验概率，KKT条件等，这些是你必须是去花功夫学习的。

就以上两点，我认为数学基础和传统机器学习算法理论必须要打好基础，要不然无论是学习大牛的算法论文或者是对某一领域的深度探索都是不切实际的。

本篇博文算是正式记录我的学习过程，好在研究生入学才一个月，能及时找准学习方向也是种幸事。

# 频率派与贝叶斯派 #

机器学习可以说是数据科学发展到一定阶段的成果，而概率模型自然而然是绕不过去的一关。我们渴望用过去的数据对未来的情况进行预测，所以要用已有的知识建立起一套规则。  
为什么要先说频率派和贝叶斯派呢？**因为它们在机器学习算法中提供了不同的建模思路**。

## 频率派与极大似然估计(MLE) ##

**频率派认为概率是客观存在的，它是一个常数**。可是我们并不是上帝，没办法知道这个客观概率到底是多少，所以**就用频率来近似概率**。  
下面还是拿掷硬币这个经典的实验举例，把掷硬币的结果作为一个随机变量**X**， **X**的取值为\*\*\{1， 0\}\*\*，分别代表投掷结果是正面和反面。  
假定我们不知道银币是否均匀，进行了10次投掷实验，结果是6次正面和4次反面。好了，按照频率派的观点，投掷这个硬币正面向上的概率就是0.6。  
细想一下，这样粗略的进行估计肯定不行。因为下轮投掷实验我如果得到了4次正面，6次方面，那概率不是变成0.4了吗？这个结果也太具有随机性了吧。所以，如果想用频率来近似概率，你必须要保证实验次数足够多或者说样本数据足够丰富。  
**可以粗浅的理解为频率的极限就是概率。**  
机器学习中的频率派观点的体现是什么呢？  
假设我们已经有了一个算法模型，这个模型是对现实数据分布的拟合。而一般模型都有一个可学习的参数 θ \\theta θ，我们期望能从现有的数据中学习到一个 θ \\theta θ，使得它的泛化能力很好。  
按照频率派的观点，这个 θ \\theta θ是一个确定的常量，不会因为你的客观数据是怎样的而变化。  
还是以上面的掷硬币来具体举例，假设我们的投掷结果用二项分布来建模，模型的参数是 p p p，表示投掷硬币正面向上的概率。我们的样本数据  X \\bold X X， X = \{ x 1 , x 2 , . . . , x n \}   x i 表 示 第 i 个 数 据 ， x i ∈ \{ 0 , 1 \} \\bold X = \\\{x\_1, x\_2,...,x\_n\\\}\\ x\_i表示第i个数据，x\_i\\in \\\{0, 1\\\} X=\{ x1,x2,...,xn\} xi表示第i个数据，xi∈\{ 0,1\}。  
 P ( X ∣ p ) P(X|p) P(X∣p)它表达的意思是， P P P是个客观存在的常量，在这个条件下，我的样本取得这个结果的概率。  
不妨把我们的数据写成具体的值 \{1， 0， 0，0， 1\}，现在有5个数据，两次正面，三次反面，所以有下面的式子。  
 P ( X ∣ p ) = p 2 ( 1 − p ) 3 P(X|p) = p^2(1-p)^3 P(X∣p)=p2(1−p)3  
不同的 P P P带到上面的式子中 P ( X ∣ p ) P(X|p) P(X∣p)可能有不同的结果，要知道 P ( X ∣ p ) P(X|p) P(X∣p)表示的是当前训练数据样本出现的概率啊，我们当然希望它越大越好，所以就对这个关于p的函数求导得到驻点，从而得到最值。  
你可以发现直接求导不好求驻点，而我们又清楚上面的概率值必然是个大于0的值（因为样本已经出现了，所以概率不会等于0），并且 对 函 数 取 对 数 不 会 影 响 其 驻 点 求 解 对函数取对数不会影响其驻点求解 对函数取对数不会影响其驻点求解，所以可以写出下面的式子。  
 l o g P ( X ∣ p ) = l o g \[ p 2 ( 1 − p ) 3 \] = 2 l o g p + 3 l o g ( 1 − p ) logP(X|p)=log\[ p^2(1-p)^3\] = 2logp + 3log(1-p) logP(X∣p)=log\[p2(1−p)3\]=2logp\+3log(1−p)  
对上式求导你会得到 p = 0.4 p=0.4 p=0.4，看到这你可能会想这个 p p p怎么和直接求频数得到的概率是一样的？  
因为我们使用的是伯努利分布这个简单模型，参数P恰巧就是描述一个事件发生的概率。

上面其实就是从频率派出发得到的极大似然函数，我们把它写成更为普适的式子：  
 θ ^ = arg max ⁡ θ l o g P ( X ∣ θ ) = l o g N ∏ 1 p ( x i ∣ θ ) = ∑ i N l o g p ( x i ∣ θ ) \\hat\{\\theta\} = \\argmax\_\{\\mathclap\{\\theta\}\} logP(X|\\theta)=log\{N \\atop \{\\prod \\atop 1\}\}p(x\_i|\\theta)=\\sum\_i^Nlogp(x\_i|\\theta) θ^=θargmaxlogP(X∣θ)=log1∏Np(xi∣θ)=∑iNlogp(xi∣θ)

## 贝叶斯派与最大后验概率(MAP) ##

先把贝叶斯定理摆出来  
 p ( θ ∣ X ) p(\\theta|X) p(θ∣X) =  p ( X ∣ θ ) p ( θ ) p ( X ) \\frac \{p(X|\\theta)p(\\theta)\} \{p(X)\} p(X)p(X∣θ)p(θ)  
贝叶斯派认为概率不是一个固定的数值，它表示的是客观上事实的可信程度，或者是主题对事件的信任程度，它是建立在已有事件基础上的。  
这么说可能有点抽象，我们对比着来说明。  
频率派不是认为只是样本X是随机变量，参数 θ \\theta θ是常量的嘛，贝叶斯派觉得这不合理。因为你的样本一旦收集到手了就是常量了啊，而 θ \\theta θ却要看作是一个随机变量。  
再看上面的贝叶斯定理：  
 p ( θ ) p(\\theta) p(θ)叫做先验，也就是 θ \\theta θ满足一个先验分布  
 p ( X ∣ θ ) p(X|\\theta) p(X∣θ)是似然， θ \\theta θ在取特定值时，观测数据的概率分布。  
 p ( θ ∣ X ) p(\\theta|X) p(θ∣X)叫做后验，反映的是在给定观测数据的基础上，对于参数分布的新的认知。  
 P ( X ) P(X) P(X)是X的边缘概率值，它是 P ( X ∣ θ ) 在 整 个 参 数 空 间 上 的 积 分 P(X|\\theta)在整个参数空间上的积分 P(X∣θ)在整个参数空间上的积分  
对于每一个 θ \\theta θ，贝叶斯定理分母上的 P ( X ) P(X) P(X)都是相同的，所以这一项与我们要找的 θ \\theta θ无关，把这一项忽略以后，得到下面的关系式(描述的是正相关的关系)：  
 p ( θ ∣ X ) ∝ p ( X ∣ θ ) p ( θ ) p(\\theta|X) \\varpropto p(X|\\theta)p(\\theta) p(θ∣X)∝p(X∣θ)p(θ)  
我们要最大化后验概率，找出在给定数据集下最可能的那个 θ \\theta θ  
 θ ^ = arg max ⁡ θ l o g p ( θ ∣ X ) = arg max ⁡ θ l o g p ( X ∣ θ ) p ( θ ) \\hat \\theta = \\argmax\_\{\\mathclap \\theta\} logp(\\theta|X) = \\argmax\_\{\\mathclap \\theta\}logp(X|\\theta)p(\\theta) θ^=θargmaxlogp(θ∣X)=θargmaxlogp(X∣θ)p(θ)

## 从KL散度的角度来理解MLE ##

KL散度：对于连续分布(W和Q)定义为：  
 D K L ( W ∥ Q ) = ∫ w ( x ) log ⁡ w ( x ) q ( x ) d ( x ) D\_\{KL\}(W \\parallel Q) = \\intop w(x)\\log \\frac \{w(x)\} \{q(x)\}d(x) DKL(W∥Q)=∫w(x)logq(x)w(x)d(x)  
从频率派的角度出发来理解，我们得到 P ( X ∣ θ ) P(X|\\theta) P(X∣θ),而客观事实上存在一个真实的 θ ⋆ \\theta^\\star θ⋆对应真实的分布 P ( X ∣ θ ⋆ ) P(X|\\theta^\\star) P(X∣θ⋆),现在我们希望衡量我们找到的分布和真实的分布之间的距离，由KL散度公式可以得出：  
 D ( p ( X ∣ θ ⋆ ) , P ( X ∣ θ ) ) = ∫ p ( X ∣ θ ⋆ ) log ⁡ p ( X ∣ θ ⋆ ) p ( x ∣ θ ) d x D(p(X|\\theta^\\star),P(X|\\theta)) = \\intop p(X|\\theta^\\star)\\log \\frac \{p(X|\\theta^\\star)\} \{p(x|\\theta)\}dx D(p(X∣θ⋆),P(X∣θ))=∫p(X∣θ⋆)logp(x∣θ)p(X∣θ⋆)dx  
上式与 E ( f ( X ) ) = ∫ p ( x ) f ( x ) d x E(f(X)) = \\intop p(x) f(x)dx E(f(X))=∫p(x)f(x)dx相似，可以看作对 log ⁡ p ( X ∣ θ ⋆ ) p ( x ∣ θ ) \\log \\frac \{p(X|\\theta^\\star)\}\{p(x|\\theta)\} logp(x∣θ)p(X∣θ⋆)求期望。

D = E x ∣ θ ⋆ \[ log ⁡ p ( X ∣ θ ⋆ ) p ( x ∣ θ ) \] D=E\_\{x|\\theta^\\star\}\[\\log \\frac \{p(X|\\theta^\\star)\}\{p(x|\\theta)\]\} D=Ex∣θ⋆\[logp(x∣θ)\]p(X∣θ⋆)  
 = E X ∣ θ ⋆ \[ log ⁡ p ( X ∣ θ ⋆ ) \] − E X ∣ θ ⋆ \[ l o g p ( X ∣ θ ) \] = E\_\{X|\\theta^\\star\}\[\\log p(X|\\theta^\\star) \]-E\_\{X|\\theta^\\star\}\[logp(X|\\theta)\] =EX∣θ⋆\[logp(X∣θ⋆)\]−EX∣θ⋆\[logp(X∣θ)\]  
= 常数 -  E x ∣ θ ⋆ \[ l o g p ( X ∣ θ ) \] E\_\{x|\\theta^\\star\}\[logp(X|\\theta)\] Ex∣θ⋆\[logp(X∣θ)\]  
当样本数足够大的时候，期望可以用样本均值代替  
 E x ∣ θ ⋆ \[ l o g p ( X ∣ θ ) \] E\_\{x|\\theta^\\star\}\[logp(X|\\theta)\] Ex∣θ⋆\[logp(X∣θ)\] =  1 N ∑ i = 1 N log ⁡ p ( x i ∣ θ ) \\frac \{1\} \{N\} \\sum\_\{i=1\}^N\\log p(x\_i|\\theta) N1∑i=1Nlogp(xi∣θ)  
可以发现我们用MLE求得参数 θ \\theta θ,可以使得 P ( X ∣ θ ) P(X|\\theta) P(X∣θ)与真实分布 P ( X ∣ θ ⋆ ) P(X|\\theta^\\star) P(X∣θ⋆)差距最小(当用KL散度来衡量时)。