支持向量机通俗导论（理解SVM的三层境界）(2)

梦里梦外; 2022-07-16 15:07 121阅读 0赞

## 第二层、深入SVM ##

### 2.1、从线性可分到线性不可分 ###

#### 2.1.1、从原始问题到对偶问题的求解 ####

接着考虑之前得到的目标函数：

![1351141975_6347.jpg][]

由于求 ![Image 1][] ![1357837136_7540.png][]的最大值相当于求 ![Image 1][] ![1357837152_4634.png][]的最小值，所以上述目标函数等价于（w由分母变成分子，从而也有原来的max问题变为min问题，很明显，两者问题等价）：

![1351141994_1802.jpg][]

因为现在的目标函数是二次的，约束条件是线性的，所以它是一个凸二次规划问题。这个问题可以用现成的[QP (Quadratic Programming)][QP_Quadratic_Programming] 优化包进行求解。一言以蔽之：在一定的约束条件下，目标最优，损失最小。

此外，由于这个问题的特殊结构，还可以通过拉格朗日对偶性（Lagrange Duality）变换到对偶变量 (dual variable) 的优化问题，即通过求解与原问题等价的对偶问题（dual problem）得到原始问题的最优解，这就是线性可分条件下支持向量机的对偶算法，这样做的优点在于：一者对偶问题往往更容易求解；二者可以自然的引入核函数，进而推广到非线性分类问题。

那什么是拉格朗日对偶性呢？简单来讲，通过给每一个约束条件加上一个拉格朗日乘子（Lagrange multiplier）![20131111195836468][]，定义拉格朗日函数（通过拉格朗日函数将约束条件融合到目标函数里去，从而只用一个函数表达式便能清楚的表达出我们的问题）：

![1351142114_6643.jpg][]

然后令

![1351142171_6289.jpg][]

容易验证，当某个约束条件不满足时，例如![20131107202615937][]，那么显然有![20131107202642843][]（只要令![20131107202702265][]即可）。而当所有约束条件都满足时，则有![20131111195433031][]，亦即最初要最小化的量。

因此，在要求约束条件得到满足的情况下最小化![20131111195324546][]，实际上等价于直接最小化![20131111195552578][]（当然，这里也有约束条件，就是![20131111195824031][]≥0,i=1,…,n）   ，因为如果约束条件没有得到满足，![20131111195552578][]会等于无穷大，自然不会是我们所要求的最小值。

具体写出来，目标函数变成了：

![1351142295_1902.jpg][]

这里用![20131107202721703][]表示这个问题的最优值，且和最初的问题是等价的。如果直接求解，那么一上来便得面对w和b两个参数，而![20131111195824031][]又是不等式约束，这个求解过程不好做。不妨把最小和最大的位置交换一下，变成：

![1351142316_5141.jpg][]

交换以后的新问题是原始问题的对偶问题，这个新问题的最优值用![20131107202736187][]来表示。而且有![20131107202736187][]≤![20131107202721703][]，在满足某些条件的情况下，这两者相等，这个时候就可以通过求解对偶问题来间接地求解原始问题。

换言之，之所以从minmax的原始问题![20131107202721703][]，转化为maxmin的对偶问题![20131107202736187][]，一者因为![20131107202736187][]是![20131107202721703][]的近似解，二者，转化为对偶问题后，更容易求解。

下面可以先求L 对w、b的极小，再求L 对![20131111195836468][]的极大。

#### 2.1.2、KKT条件 ####

上文中提到“![20131107202736187][]≤![20131107202721703][]在满足某些条件的情况下，两者等价”，这所谓的“满足某些条件”就是要满足KKT条件。

一般地，一个最优化数学模型能够表示成下列标准形式：

![1339126493_9056.jpg][]

其中，f(x)是需要最小化的函数，h(x)是等式约束，g(x)是不等式约束，p和q分别为等式约束和不等式约束的数量。

同时，得明白以下两点：

*  凸优化的概念：![\\mathcal\{X\} \\subset \\mathbb\{R\}^n][mathcal_X_ _subset _mathbb_R_n] 为一凸集， ![f:\\mathcal\{X\}\\to \\mathbb\{R\}][f_mathcal_X_to _mathbb_R] 为一凸函数。凸优化就是要找出一点 ![x^\\ast \\in \\mathcal\{X\}][x_ast _in _mathcal_X] ，使得每一 ![x \\in \\mathcal\{X\}][x _in _mathcal_X] 满足 ![f(x^\\ast)\\le f(x)][f_x_ast_le f_x] 。
 *  KKT条件的意义：它是一个非线性规划（Nonlinear Programming）问题能有最优化解法的必要和充分条件。

而KKT条件就是指上面最优化数学模型的标准形式中的最小点 x\* 必须满足下面的条件：

![1339126537_2336.jpg][]

经过论证，我们这里的问题是满足 KKT 条件的（首先已经满足Slater condition，再者f和gi也都是可微的，即L对w和b都可导），因此现在我们便转化为求解第二个问题。

也就是说，原始问题通过满足KKT条件，已经转化成了对偶问题。而求解这个对偶学习问题，分为3个步骤：首先要让L(w，b，a) 关于 w 和 b 最小化，然后求对![20131111195836468][]的极大，最后利用SMO算法求解对偶问题中的拉格朗日乘子。

#### 2.1.3、对偶问题求解的3个步骤 ####

（1）、首先固定![20131111195836468][]，要让 L 关于 w 和 b 最小化，我们分别对w，b求偏导数，即令 ∂L/∂w 和 ∂L/∂b 等于零（对w求导结果的解释请看本文评论下第45楼回复）：

![20131107202220500][]

将以上结果代入之前的L，得到：

![1351142114_6643.jpg][]

从而有：

![1351142449_6864.jpg][]

提醒：有读者可能会问上述推导过程如何而来？说实话，其具体推导过程是比较复杂的，如下图所示：![1357837605_5830.png][]

最后，得到：

![1351142449_6864.jpg][]

如 jerrylead所说：“倒数第4步”推导到“倒数第3步”使用了线性代数的转置运算，由于ai和yi都是实数，因此转置后与自身一样。“倒数第3步”推导到“倒数第2步”使用了(a+b+c+…)(a+b+c+…)=aa+ab+ac+ba+bb+bc+…的乘法运算法则。最后一步是上一步的顺序调整。

从上面的最后一个式子，我们可以看出，此时的拉格朗日函数只包含了一个变量，那就是![20131111195824031][]（求出了![20131111195824031][]便能求出w，和b，由此可见，上文第1.2节提出来的核心问题：分类函数![20131107201211968][]也就可以轻而易举的求出来了）。

（2）、求对![20131111195836468][]的极大，即是关于对偶问题的最优化问题。经过上面第一个步骤的求w和b，得到的拉格朗日函数式子已经没有了变量w，b，只有![20131111195836468][]。从上面的式子得到：

![1338605996_4659.jpg][]

这样，求出了![20131111195824031][]![Image 1][]，根据![1357838666_9138.jpg][]，![Image 1][]即可求出w，然后通过![1357838696_3314.png][]，即可求出b，最终得出分离超平面和分类决策函数。

（3）在求得L(w, b, a) 关于 w 和 b 最小化，以及对![20131111195836468][]的极大之后，最后一步便是利用SMO算法求解对偶问题中的拉格朗日乘子![20131111195836468][]。

![1338605996_4659.jpg][]

上述式子要解决的是在参数 ![1365176671_1627.png][] ![Image 1][]上求最大值W的问题，至于 ![Image 1][] ![1365176682_4857.png][]和 ![1365176690_4143.png][] ![Image 1][]都是已知数。要了解这个SMO算法是如何推导的，请跳到下文第3.5节、SMO算法。

到目前为止，我们的 SVM 还比较弱，只能处理线性的情况，下面我们将引入核函数，进而推广到非线性分类问题。

#### 2.1.5、线性不可分的情况 ####

OK，为过渡到下节2.2节所介绍的核函数，让我们再来看看上述推导过程中得到的一些有趣的形式。首先就是关于我们的 hyper plane ，对于一个数据点 x 进行分类，实际上是通过把 x 带入到![20131107201211968][]算出结果然后根据其正负号来进行类别划分的。而前面的推导中我们得到

![20131111163543781][]

因此分类函数为：

![1351142572_5782.jpg][]

这里的形式的有趣之处在于，对于新点 x的预测，只需要计算它与训练数据点的内积即可（![20131111163753093][]表示向量内积），这一点至关重要，是之后使用 Kernel 进行非线性推广的基本前提。此外，所谓 Supporting Vector 也在这里显示出来——事实上，所有非Supporting Vector 所对应的系数![20131111164022593][]都是等于零的，因此对于新点的内积计算实际上只要针对少量的“支持向量”而不是所有的训练数据即可。

为什么非支持向量对应的![20131111164022593][]等于零呢？直观上来理解的话，就是这些“后方”的点——正如我们之前分析过的一样，对超平面是没有影响的，由于分类完全有超平面决定，所以这些无关的点并不会参与分类问题的计算，因而也就不会产生任何影响了。

回忆一下我们2.1.1节中通过 Lagrange multiplier得到的目标函数：

![1351142613_4680.jpg][]

注意到如果 xi 是支持向量的话，上式中红颜色的部分是等于 0 的（因为支持向量的 functional margin 等于 1 ），而对于非支持向量来说，functional margin 会大于 1 ，因此红颜色部分是大于零的，而![20131111163835968][]又是非负的，为了满足最大化，![20131111163835968][]必须等于 0 。这也就是这些非Supporting Vector 的点的局限性。

从1.5节到上述所有这些东西，便得到了一个maximum margin hyper plane classifier，这就是所谓的支持向量机（Support Vector Machine）。当然，到目前为止，我们的 SVM 还比较弱，只能处理线性的情况，不过，在得到了对偶dual 形式之后，通过 Kernel 推广到非线性的情况就变成了一件非常容易的事情了(相信，你还记得本节开头所说的：“通过求解对偶问题得到最优解，这就是线性可分条件下支持向量机的对偶算法，这样做的优点在于：一者对偶问题往往更容易求解；二者可以自然的引入核函数，进而推广到非线性分类问题”)。

### 2.2、核函数Kernel ###

#### 2.2.1、特征空间的隐式映射：核函数 ####

咱们首先给出核函数的来头：在上文中，我们已经了解到了SVM处理线性可分的情况，而对于非线性的情况，SVM 的处理方法是选择一个核函数 κ(⋅,⋅) ，通过将数据映射到高维空间，来解决在原始空间中线性不可分的问题。

此外，因为训练样例一般是不会独立出现的，它们总是以成对样例的内积形式出现，而用对偶形式表示学习器的优势在为在该表示中可调参数的个数不依赖输入属性的个数，通过使用恰当的核函数来替代内积，可以隐式得将非线性的训练数据映射到高维空间，而不增加可调参数的个数(当然，前提是核函数能够计算对应着两个输入特征向量的内积)。

在线性不可分的情况下，支持向量机首先在低维空间中完成计算，然后通过核函数将输入空间映射到高维特征空间，最终在高维特征空间中构造出最优分离超平面，从而把平面上本身不好分的非线性数据分开。如图7-7所示，一堆数据在二维空间无法划分，从而映射到三维空间里划分：

![20140830002108254][]

而在我们遇到核函数之前，如果用原始的方法，那么在用线性学习器学习一个非线性关系，需要选择一个非线性特征集，并且将数据写成新的表达形式，这等价于应用一个固定的非线性映射，将数据映射到特征空间，在特征空间中使用线性学习器，因此，考虑的假设集是这种类型的函数：

![1338740718_7761.JPG][]

这里 ϕ：X->F是从输入空间到某个特征空间的映射，这意味着建立非线性学习器分为两步：

1.  首先使用一个非线性映射将数据变换到一个特征空间F，
2.  然后在特征空间使用线性学习器分类。

而由于对偶形式就是线性学习器的一个重要性质，这意味着假设可以表达为训练点的线性组合，因此决策规则可以用测试点和训练点的内积来表示：

![1338741121_9867.JPG][]

如果有一种方式可以 在特征空间中直接计算内积〈φ(xi · φ(x) 〉，就像在原始输入点的函数中一样，就有可能将两个步骤融合到一起建立一个非线性的学习器，这样直接计算法的方法称为核函数方法：

核是一个函数K，对所有x，z(-X，满足 ![1338741445_1451.JPG][]，这里 φ是从X到内积特征空间F的映射。

#### 2.2.2、核函数：如何处理非线性数据 ####

来看个核函数的例子。如下图所示的两类数据，分别分布为两个圆圈的形状，这样的数据本身就是线性不可分的，此时咱们该如何把这两类数据分开呢(下文将会有一个相应的三维空间图)？

![1338655829_6929.png][]

事实上，上图所述的这个数据集，是用两个半径不同的圆圈加上了少量的噪音生成得到的，所以，一个理想的分界应该是一个“圆圈”而不是一条线（超平面）。如果用 X1 和 X2 来表示这个二维平面的两个坐标的话，我们知道一条二次曲线（圆圈是二次曲线的一种特殊情况）的方程可以写作这样的形式：

![20130820145508875][]

注意上面的形式，如果我们构造另外一个五维的空间，其中五个坐标的值分别为 Z1=X1, Z2=X21, Z3=X2, Z4=X22, Z5=X1X2，那么显然，上面的方程在新的坐标系下可以写作：

![20130820145522437][]

关于新的坐标 Z ，这正是一个 hyper plane 的方程！也就是说，如果我们做一个映射 ϕ:R2→R5 ，将 X 按照上面的规则映射为 Z ，那么在新的空间中原来的数据将变成线性可分的，从而使用之前我们推导的线性分类算法就可以进行处理了。这正是 Kernel 方法处理非线性问题的基本思想。

再进一步描述 Kernel 的细节之前，不妨再来看看这个例子映射过后的直观例子。当然，你我可能无法把 5 维空间画出来，不过由于我这里生成数据的时候就是用了特殊的情形，具体来说，我这里的超平面实际的方程是这个样子（圆心在 X2 轴上的一个正圆）：

![20130820145544562][]

因此我只需要把它映射到 Z1=X21, Z2=X22, Z3=X2 这样一个三维空间中即可，下图即是映射之后的结果，将坐标轴经过适当的旋转，就可以很明显地看出，数据是可以通过一个平面来分开的(pluskid：下面的gif 动画，先用 Matlab 画出一张张图片，再用 Imagemagick 拼贴成)：

![1364952814_3505.gif][]

核函数相当于把原来的分类函数：

![1351142877_8481.jpg][]

映射成：

![1351142890_4908.jpg][]

而其中的![20131111164022593][]可以通过求解如下 dual 问题而得到的：

![1351142906_9411.jpg][]

这样一来问题就解决了吗？似乎是的：拿到非线性数据，就找一个映射![03D5.png][]![0028.png][]![22C5.png][]![0029.png][]，然后一股脑把原来的数据映射到新空间中，再做线性 SVM 即可。不过事实上没有这么简单！其实刚才的方法稍想一下就会发现有问题：在最初的例子里，我们对一个二维空间做映射，选择的新空间是原始空间的所有一阶和二阶的组合，得到了五个维度；如果原始空间是三维，那么我们会得到 19 维的新空间，这个数目是呈爆炸性增长的，这给![03D5.png][]![0028.png][]![22C5.png][]![0029.png][]的计算带来了非常大的困难，而且如果遇到无穷维的情况，就根本无从计算了。所以就需要 Kernel 出马了。

不妨还是从最开始的简单例子出发，设两个向量![1364953480_7616.jpg][]和![1364953493_7554.jpg][]，而![1364953575_7320.jpg][]即是到前面说的五维空间的映射，因此映射过后的内积为：

![1364953615_2896.jpg][]

（公式说明：上面的这两个推导过程中，所说的前面的五维空间的映射，这里说的前面便是文中2.2.1节的所述的映射方式，回顾下之前的映射规则，再看那第一个推导，其实就是计算x1，x2各自的内积，然后相乘相加即可，第二个推导则是直接平方，去掉括号，也很容易推出来）

另外，我们又注意到：

![1364953683_4519.jpg][]

二者有很多相似的地方，实际上，我们只要把某几个维度线性缩放一下，然后再加上一个常数维度，具体来说，上面这个式子的计算结果实际上和映射

![1364953714_4455.jpg][]

之后的内积![1364953751_4112.jpg][]的结果是相等的，那么区别在于什么地方呢？

1.  一个是映射到高维空间中，然后再根据内积的公式进行计算；
2.  而另一个则直接在原来的低维空间中进行计算，而不需要显式地写出映射后的结果。

（公式说明：上面之中，最后的两个式子，第一个算式，是带内积的完全平方式，可以拆开，然后，通过凑一个得到，第二个算式，也是根据第一个算式凑出来的）

回忆刚才提到的映射的维度爆炸，在前一种方法已经无法计算的情况下，后一种方法却依旧能从容处理，甚至是无穷维度的情况也没有问题。

我们把这里的计算两个向量在隐式映射过后的空间中的内积的函数叫做核函数 (Kernel Function) ，例如，在刚才的例子中，我们的核函数为：

![1364956440_7770.jpg][]

核函数能简化映射空间中的内积运算——刚好“碰巧”的是，在我们的 SVM 里需要计算的地方数据向量总是以内积的形式出现的。对比刚才我们上面写出来的式子，现在我们的分类函数为：

![1364956916_5948.jpg][]

其中![03B1.png][]由如下 dual 问题计算而得：

![1364957480_2629.jpg][]

这样一来计算的问题就算解决了，避开了直接在高维空间中进行计算，而结果却是等价的！当然，因为我们这里的例子非常简单，所以我可以手工构造出对应于![1364953575_7320.jpg][]的核函数出来，如果对于任意一个映射，想要构造出对应的核函数就很困难了。

#### 2.2.3、几个核函数 ####

通常人们会从一些常用的核函数中选择（根据问题和数据的不同，选择不同的参数，实际上就是得到了不同的核函数），例如：

*  多项式核，显然刚才我们举的例子是这里多项式核的一个特例（R = 1，d = 2）。虽然比较麻烦，而且没有必要，不过这个核所对应的映射实际上是可以写出来的，该空间的维度是![1364958204_2877.jpg][]，其中![006D.png][]是原始空间的维度。
 *  高斯核![1364958259_8460.jpg][]，这个核就是最开始提到过的会将原始空间映射为无穷维空间的那个家伙。不过，如果![1364958296_7554.jpg][]选得很大的话，高次特征上的权重实际上衰减得非常快，所以实际上（数值上近似一下）相当于一个低维的子空间；反过来，如果![1364958296_7554.jpg][]选得很小，则可以将任意的数据映射为线性可分——当然，这并不一定是好事，因为随之而来的可能是非常严重的过拟合问题。不过，总的来说，通过调控参数![1364958296_7554.jpg][]，高斯核实际上具有相当高的灵活性，也是使用最广泛的核函数之一。下图所示的例子便是把低维线性不可分的数据通过高斯核函数映射到了高维空间：![20130919095640250][]
 *  线性核![1364958354_7262.jpg][]，这实际上就是原始空间中的内积。这个核存在的主要目的是使得“映射后空间中的问题”和“映射前空间中的问题”两者在形式上统一起来了(意思是说，咱们有的时候，写代码，或写公式的时候，只要写个模板或通用表达式，然后再代入不同的核，便可以了，于此，便在形式上统一了起来，不用再分别写一个线性的，和一个非线性的)。

#### 2.2.4、核函数的本质 ####

上面说了这么一大堆，读者可能还是没明白核函数到底是个什么东西？我再简要概括下，即以下三点：

1.  实际中，我们会经常遇到线性不可分的样例，此时，我们的常用做法是把样例特征映射到高维空间中去(如上文2.2节最开始的那幅图所示，映射到高维空间后，相关特征便被分开了，也就达到了分类的目的)；
2.  但进一步，如果凡是遇到线性不可分的样例，一律映射到高维空间，那么这个维度大小是会高到可怕的(如上文中19维乃至无穷维的例子)。那咋办呢？
3.  此时，核函数就隆重登场了，核函数的价值在于它虽然也是讲特征进行从低维到高维的转换，但核函数绝就绝在它事先在低维上进行计算，而将实质上的分类效果表现在了高维上，也就如上文所说的避免了直接在高维空间中的复杂计算。

最后引用[这里][Link 1]的一个例子举例说明下核函数解决非线性问题的直观效果。

假设现在你是一个农场主，圈养了一批羊群，但为预防狼群袭击羊群，你需要搭建一个篱笆来把羊群围起来。但是篱笆应该建在哪里呢？你很可能需要依据牛群和狼群的位置建立一个“分类器”，比较下图这几种不同的分类器，我们可以看到SVM完成了一个很完美的解决方案。

![20131121105410546][]

这个例子从侧面简单说明了SVM使用非线性分类器的优势，而逻辑模式以及决策树模式都是使用了直线方法。

OK，不再做过多介绍了，对核函数有进一步兴趣的，还可以看看[此文][Link 2]。

### 2.3、使用松弛变量处理 outliers 方法 ###

在本文第一节最开始讨论支持向量机的时候，我们就假定，数据是线性可分的，亦即我们可以找到一个可行的超平面将数据完全分开。后来为了处理非线性数据，在上文2.2节使用 Kernel 方法对原来的线性 SVM 进行了推广，使得非线性的的情况也能处理。虽然通过映射![03D5.png][]![0028.png][]![22C5.png][]![0029.png][]将原始数据映射到高维空间之后，能够线性分隔的概率大大增加，但是对于某些情况还是很难处理。

例如可能并不是因为数据本身是非线性结构的，而只是因为数据有噪音。对于这种偏离正常位置很远的数据点，我们称之为 outlier ，在我们原来的 SVM 模型里，outlier 的存在有可能造成很大的影响，因为超平面本身就是只有少数几个 support vector 组成的，如果这些 support vector 里又存在 outlier 的话，其影响就很大了。例如下图：

![Optimal Hyper Plane 2][]

用黑圈圈起来的那个蓝点是一个 outlier ，它偏离了自己原本所应该在的那个半空间，如果直接忽略掉它的话，原来的分隔超平面还是挺好的，但是由于这个 outlier 的出现，导致分隔超平面不得不被挤歪了，变成途中黑色虚线所示（这只是一个示意图，并没有严格计算精确坐标），同时 margin 也相应变小了。当然，更严重的情况是，如果这个 outlier 再往右上移动一些距离的话，我们将无法构造出能将数据分开的超平面来。

为了处理这种情况，SVM 允许数据点在一定程度上偏离一下超平面。例如上图中，黑色实线所对应的距离，就是该 outlier 偏离的距离，如果把它移动回来，就刚好落在原来的超平面上，而不会使得超平面发生变形了。

插播下一位读者@Copper\_PKU的理解：“换言之，在有松弛的情况下outline点也属于支持向量SV，同时，对于不同的支持向量，拉格朗日参数的值也不同，如此篇论文《Large Scale Machine Learning》中的下图所示：

![20131126154347453][]

对于远离分类平面的点值为0；对于边缘上的点值在\[0, 1/L\]之间，其中，L为训练数据集个数，即数据集大小；对于outline数据和内部的数据值为1/L。更多请参看本文文末参考条目第51条。”

OK，继续回到咱们的问题。我们，原来的约束条件为：

![1364959415_3450.jpg][]

现在考虑到outlier问题，约束条件变成了：

![1364959452_3595.jpg][]

其中![1364959520_2870.jpg][]称为松弛变量 (slack variable) ，对应数据点![1364959545_2101.jpg][]允许偏离的 functional margin 的量。当然，如果我们运行![1364959556_6974.jpg][]任意大的话，那任意的超平面都是符合条件的了。所以，我们在原来的目标函数后面加上一项，使得这些![1364959556_6974.jpg][]的总和也要最小：

![1364959830_8514.jpg][]

其中![0043.png][]是一个参数，用于控制目标函数中两项（“寻找 margin 最大的超平面”和“保证数据点偏差量最小”）之间的权重。注意，其中![03BE.png][]是需要优化的变量（之一），而![0043.png][]是一个事先确定好的常量。完整地写出来是这个样子：

![1364959576_9747.jpg][]

用之前的方法将限制或约束条件加入到目标函数中，得到新的拉格朗日函数，如下所示：

![1364959743_1140.jpg][]

分析方法和前面一样，转换为另一个问题之后，我们先让![1364964405_5704.jpg][]针对![1364964417_1635.jpg][]、![1364964430_9778.jpg][]和![1364964459_1257.jpg][]最小化：

![1364964598_5617.jpg][]

将 ![0077.png][]带回![004C.png][]并化简，得到和原来一样的目标函数：

![1364964812_9353.jpg][]

不过，由于我们得到![1364965002_7084.jpg][]而又有![1364965051_1161.jpg][]（作为 Lagrange multiplier 的条件），因此有![1364965086_6201.jpg][]，所以整个 dual 问题现在写作：

![1364965166_4508.jpg][]

把前后的结果对比一下（错误修正：图中的Dual formulation中的Minimize应为maxmize）：

![20130919094508562][]

可以看到唯一的区别就是现在 dual variable ![03B1.png][] 多了一个上限![0043.png][]。而 Kernel 化的非线性形式也是一样的，只要把![1364965369_2776.jpg][]换成![1364965402_2807.jpg][]即可。这样一来，一个完整的，可以处理线性和非线性并能容忍噪音和 outliers 的支持向量机才终于介绍完毕了。

行文至此，可以做个小结，不准确的说，SVM它本质上即是一个分类方法，用w^T+b定义分类函数，于是求w、b，为寻最大间隔，引出1/2||w||^2，继而引入拉格朗日因子，化为对拉格朗日乘子a的求解（求解过程中会涉及到一系列最优化或凸二次规划等问题），如此，求w.b与求a等价，而a的求解可以用一种快速学习算法SMO，至于核函数，是为处理非线性情况，若直接映射到高维计算恐维度爆炸，故在低维计算，等效高维表现。

OK，理解到这第二层，已经能满足绝大部分人一窥SVM原理的好奇心，然对于那些想在证明层面理解SVM的则还很不够，但进入第三层理解境界之前，你必须要有比较好的数理基础和逻辑证明能力，不然你会跟我一样，吃不少苦头的。

[1351141975_6347.jpg]: https://img-my.csdn.net/uploads/201210/25/1351141975_6347.jpg
[Image 1]: 
[1357837136_7540.png]: https://img-my.csdn.net/uploads/201301/11/1357837136_7540.png
[1357837152_4634.png]: https://img-my.csdn.net/uploads/201301/11/1357837152_4634.png
[1351141994_1802.jpg]: https://img-my.csdn.net/uploads/201210/25/1351141994_1802.jpg
[QP_Quadratic_Programming]: http://en.wikipedia.org/wiki/Quadratic_programming
[20131111195836468]: /images/20220709/b197e6f493cd45d790f7ee2c382bea17.png
[1351142114_6643.jpg]: https://img-my.csdn.net/uploads/201210/25/1351142114_6643.jpg
[1351142171_6289.jpg]: https://img-my.csdn.net/uploads/201210/25/1351142171_6289.jpg
[20131107202615937]: https://img-blog.csdn.net/20131107202615937
[20131107202642843]: https://img-blog.csdn.net/20131107202642843
[20131107202702265]: https://img-blog.csdn.net/20131107202702265
[20131111195433031]: /images/20220709/98240a0cfd7343a6880ba71283e5fd4a.png
[20131111195324546]: https://img-blog.csdn.net/20131111195324546
[20131111195552578]: /images/20220709/efcf6fe64d154da9a6c7d80b38b401cc.png
[20131111195824031]: /images/20220709/b60f75b5a10c4c54a3cf9f9e4b8c9155.png
[1351142295_1902.jpg]: https://img-my.csdn.net/uploads/201210/25/1351142295_1902.jpg
[20131107202721703]: /images/20220709/f7e91a31dce840a89061ea9bc6848c9f.png
[1351142316_5141.jpg]: https://img-my.csdn.net/uploads/201210/25/1351142316_5141.jpg
[20131107202736187]: https://img-blog.csdn.net/20131107202736187
[1339126493_9056.jpg]: https://img-my.csdn.net/uploads/201206/08/1339126493_9056.jpg
[mathcal_X_ _subset _mathbb_R_n]: http://upload.wikimedia.org/math/d/0/1/d01e9255365440ae709190fafc071951.png
[f_mathcal_X_to _mathbb_R]: http://upload.wikimedia.org/math/3/4/5/345879b44bce56b80552389916fa67fe.png
[x_ast _in _mathcal_X]: http://upload.wikimedia.org/math/7/a/b/7ab2b524ce2a695903b81d45d27d5242.png
[x _in _mathcal_X]: http://upload.wikimedia.org/math/6/2/4/624cf12f420fb0f373cda9f7b216b2f3.png
[f_x_ast_le f_x]: /images/20220709/9d1fdf19e42946ad95dff96e5e8d11ae.png
[1339126537_2336.jpg]: https://img-my.csdn.net/uploads/201206/08/1339126537_2336.jpg
[20131107202220500]: /images/20220709/e40061721597407aa7c08ccdb1733d72.png
[1351142449_6864.jpg]: https://img-my.csdn.net/uploads/201210/25/1351142449_6864.jpg
[1357837605_5830.png]: https://img-my.csdn.net/uploads/201301/11/1357837605_5830.png
[20131107201211968]: /images/20220709/6b26130671234b40a9137a1bc2f0cdd8.png
[1338605996_4659.jpg]: https://img-my.csdn.net/uploads/201206/02/1338605996_4659.jpg
[1357838666_9138.jpg]: https://img-my.csdn.net/uploads/201301/11/1357838666_9138.jpg
[1357838696_3314.png]: https://img-my.csdn.net/uploads/201301/11/1357838696_3314.png
[1365176671_1627.png]: https://img-my.csdn.net/uploads/201304/05/1365176671_1627.png
[1365176682_4857.png]: https://img-my.csdn.net/uploads/201304/05/1365176682_4857.png
[1365176690_4143.png]: https://img-my.csdn.net/uploads/201304/05/1365176690_4143.png
[20131111163543781]: /images/20220709/637f5dd561294dedac945afb9ca695e6.png
[1351142572_5782.jpg]: https://img-my.csdn.net/uploads/201210/25/1351142572_5782.jpg
[20131111163753093]: https://img-blog.csdn.net/20131111163753093
[20131111164022593]: /images/20220709/c5bda1306fb64b45bccdc76125d8523e.png
[1351142613_4680.jpg]: https://img-my.csdn.net/uploads/201210/25/1351142613_4680.jpg
[20131111163835968]: /images/20220709/49373138255344d5a574c4e83445dbcb.png
[20140830002108254]: /images/20220709/81a868ee59ad4f6db6ba4880210ffca1.png
[1338740718_7761.JPG]: https://img-my.csdn.net/uploads/201206/04/1338740718_7761.JPG
[1338741121_9867.JPG]: https://img-my.csdn.net/uploads/201206/04/1338741121_9867.JPG
[1338741445_1451.JPG]: https://img-my.csdn.net/uploads/201206/04/1338741445_1451.JPG
[1338655829_6929.png]: https://img-my.csdn.net/uploads/201206/03/1338655829_6929.png
[20130820145508875]: /images/20220709/6221494ba1384fc88522f1588ec7888f.png
[20130820145522437]: /images/20220709/92a376bbafa84ed4978cb2a082efdc84.png
[20130820145544562]: /images/20220709/8bc214b05e714ff7a20d6e4a22821387.png
[1364952814_3505.gif]: https://img-my.csdn.net/uploads/201304/03/1364952814_3505.gif
[1351142877_8481.jpg]: https://img-my.csdn.net/uploads/201210/25/1351142877_8481.jpg
[1351142890_4908.jpg]: https://img-my.csdn.net/uploads/201210/25/1351142890_4908.jpg
[1351142906_9411.jpg]: https://img-my.csdn.net/uploads/201210/25/1351142906_9411.jpg
[03D5.png]: http://blog.pluskid.org/MathJax/fonts/HTML-CSS/TeX/png/Math/Italic/141/03D5.png
[0028.png]: http://blog.pluskid.org/MathJax/fonts/HTML-CSS/TeX/png/Main/Regular/141/0028.png
[22C5.png]: http://blog.pluskid.org/MathJax/fonts/HTML-CSS/TeX/png/Main/Regular/141/22C5.png
[0029.png]: /images/20220709/28b2ed2505844a47a821067b6eb0d45b.png
[1364953480_7616.jpg]: https://img-my.csdn.net/uploads/201304/03/1364953480_7616.jpg
[1364953493_7554.jpg]: https://img-my.csdn.net/uploads/201304/03/1364953493_7554.jpg
[1364953575_7320.jpg]: https://img-my.csdn.net/uploads/201304/03/1364953575_7320.jpg
[1364953615_2896.jpg]: https://img-my.csdn.net/uploads/201304/03/1364953615_2896.jpg
[1364953683_4519.jpg]: https://img-my.csdn.net/uploads/201304/03/1364953683_4519.jpg
[1364953714_4455.jpg]: https://img-my.csdn.net/uploads/201304/03/1364953714_4455.jpg
[1364953751_4112.jpg]: https://img-my.csdn.net/uploads/201304/03/1364953751_4112.jpg
[1364956440_7770.jpg]: https://img-my.csdn.net/uploads/201304/03/1364956440_7770.jpg
[1364956916_5948.jpg]: https://img-my.csdn.net/uploads/201304/03/1364956916_5948.jpg
[03B1.png]: /images/20220709/7c427220b05642b2bdfba5b1a6c99aa0.png
[1364957480_2629.jpg]: https://img-my.csdn.net/uploads/201304/03/1364957480_2629.jpg
[1364958204_2877.jpg]: https://img-my.csdn.net/uploads/201304/03/1364958204_2877.jpg
[006D.png]: /images/20220709/44a516d0fb324a258fda664a6a7680dd.png
[1364958259_8460.jpg]: https://img-my.csdn.net/uploads/201304/03/1364958259_8460.jpg
[1364958296_7554.jpg]: https://img-my.csdn.net/uploads/201304/03/1364958296_7554.jpg
[20130919095640250]: /images/20220709/2a006522c2e4428fae14e6327c54a952.png
[1364958354_7262.jpg]: https://img-my.csdn.net/uploads/201304/03/1364958354_7262.jpg
[Link 1]: http://www.yaksis.com/posts/why-use-svm.html
[20131121105410546]: /images/20220709/de1e49264d9e4ba69586bde680b3ffe0.png
[Link 2]: http://www.cnblogs.com/vivounicorn/archive/2010/12/13/1904720.html
[Optimal Hyper Plane 2]: /images/20220709/019c95b3184e4caaa243ceda10ccee06.png
[20131126154347453]: /images/20220709/4cb5bc5e19a84bd2bb5e45324383943a.png
[1364959415_3450.jpg]: https://img-my.csdn.net/uploads/201304/03/1364959415_3450.jpg
[1364959452_3595.jpg]: https://img-my.csdn.net/uploads/201304/03/1364959452_3595.jpg
[1364959520_2870.jpg]: https://img-my.csdn.net/uploads/201304/03/1364959520_2870.jpg
[1364959545_2101.jpg]: https://img-my.csdn.net/uploads/201304/03/1364959545_2101.jpg
[1364959556_6974.jpg]: https://img-my.csdn.net/uploads/201304/03/1364959556_6974.jpg
[1364959830_8514.jpg]: https://img-my.csdn.net/uploads/201304/03/1364959830_8514.jpg
[0043.png]: /images/20220709/4acf716c9f434d20a5d28c0d6d80b097.png
[03BE.png]: http://blog.pluskid.org/MathJax/fonts/HTML-CSS/TeX/png/Math/Italic/141/03BE.png
[1364959576_9747.jpg]: https://img-my.csdn.net/uploads/201304/03/1364959576_9747.jpg
[1364959743_1140.jpg]: https://img-my.csdn.net/uploads/201304/03/1364959743_1140.jpg
[1364964405_5704.jpg]: https://img-my.csdn.net/uploads/201304/03/1364964405_5704.jpg
[1364964417_1635.jpg]: https://img-my.csdn.net/uploads/201304/03/1364964417_1635.jpg
[1364964430_9778.jpg]: https://img-my.csdn.net/uploads/201304/03/1364964430_9778.jpg
[1364964459_1257.jpg]: https://img-my.csdn.net/uploads/201304/03/1364964459_1257.jpg
[1364964598_5617.jpg]: https://img-my.csdn.net/uploads/201304/03/1364964598_5617.jpg
[0077.png]: http://blog.pluskid.org/MathJax/fonts/HTML-CSS/TeX/png/Math/Italic/141/0077.png
[004C.png]: /images/20220709/698e0ad47e3f4ed48b0d13cd7202de2b.png
[1364964812_9353.jpg]: https://img-my.csdn.net/uploads/201304/03/1364964812_9353.jpg
[1364965002_7084.jpg]: https://img-my.csdn.net/uploads/201304/03/1364965002_7084.jpg
[1364965051_1161.jpg]: https://img-my.csdn.net/uploads/201304/03/1364965051_1161.jpg
[1364965086_6201.jpg]: https://img-my.csdn.net/uploads/201304/03/1364965086_6201.jpg
[1364965166_4508.jpg]: https://img-my.csdn.net/uploads/201304/03/1364965166_4508.jpg
[20130919094508562]: /images/20220709/71884931968d4d74b03e8f5d8afeafe0.png
[1364965369_2776.jpg]: https://img-my.csdn.net/uploads/201304/03/1364965369_2776.jpg
[1364965402_2807.jpg]: https://img-my.csdn.net/uploads/201304/03/1364965402_2807.jpg