数据挖掘算法04 - SVM

忘是亡心i 2022-01-27 16:45 264阅读 0赞

## SVM ##

SVM 的英文叫 Support Vector Machine，中文名为支持向量机。它是常见的一种分类方法，在机器学习中，**SVM 是有监督的学习模型**。

什么是有监督的学习模型呢？它指的是我们需要事先对数据打上分类标签，这样机器就知道这个数据属于哪个分类。

同样无监督学习，就是数据没有被打上分类标签，这可能是因为我们不具备先验的知识，或者打标签的成本很高。所以我们需要机器代我们部分完成这个工作，比如将数据进行聚类，方便后续人工对每个类进行分析。

SVM 作为有监督的学习模型，通常可以帮我们模式识别、分类以及回归分析。

> 练习 1：桌子上我放了红色和蓝色两种球，请你用一根棍子将这两种颜色的球分开。

你可以很快想到解决方案，在红色和蓝色球之间画条直线就好了

> 练习 2：这次难度升级，桌子上依然放着红色、蓝色两种球，但是它们的摆放不规律。如何用一根棍子把这两种颜色分开呢？

这里你可能会灵机一动，猛拍一下桌子，这些小球瞬间腾空而起。在腾起的那一刹那，出现了一个水平切面，恰好把红、蓝两种颜色的球分开。

在这里，二维平面变成了三维空间。原来的曲线变成了一个平面。这个平面，我们就叫做超平面。

**升维**

> SVM 的工作原理

用 SVM 计算的过程就是帮我们找到那个超平面的过程，这个**超平面**就是我们的 SVM 分类器。

*  分类间隔

在保证决策面不变，且分类不产生错误的情况下，我们可以移动决策面 C，直到产生两个极限的位置：如图中的决策面 A 和决策面 B。极限的位置是指，如果越过了这个位置，就会产生分类错误。这样的话，两个极限位置 A 和 B 之间的分界线 C 就是最优决策面。极限位置到最优决策面 C 之间的距离，就是“分类间隔”，英文叫做 **margin**。

![506cc4b85a9206cca12048b29919a7ea.jpg][]

如果我们转动这个最优决策面，你会发现可能存在多个最优决策面，它们都能把数据集正确分开，这些最优决策面的分类间隔可能是不同的，而那个拥有“最大间隔”（**max margin**）的决策面就是 SVM 要找的最优解。

*  点到超平面的距离公式

超平面

![765e87a2d9d6358f1274478dacbbce28.png][]

在这个公式里，w、x 是 n 维空间里的向量，其中 x 是函数变量；w 是法向量。法向量这里指的是垂直于平面的直线所表示的向量，它决定了超平面的方向。

**SVM 就是帮我们找到一个超平面**，这个超平面能将不同的样本划分开，同时使得样本集中的点到这个分类超平面的最小距离（即分类间隔）最大化。

**支持向量就是离分类超平面最近的样本点**，实际上如果确定了支持向量也就确定了这个超平面。所以支持向量决定了分类间隔到底是多少，而在最大间隔以外的样本点，其实对分类都没有意义。

所以说， SVM 就是求解最大分类间隔的过程，我们还需要对分类间隔的大小进行定义。

首先，我们定义某类样本集到超平面的距离是这个样本集合内的样本到超平面的最短距离。我们用 di 代表点 xi 到超平面 wxi+b=0 的欧氏距离。因此我们要求 di 的最小值，用它来代表这个样本到超平面的最短距离。di 可以用公式计算得出：

![8342b5253cb4c294c72cef6802814176.png][]

其中||w||为超平面的范数。

> 最大间隔的优化模型

我们的目标就是找出所有分类间隔中最大的那个值对应的超平面。

> 硬间隔、软间隔和非线性 SVM

硬间隔指的就是完全分类准确，不能存在分类错误的情况。

软间隔，就是允许一定量的样本分类错误。

核函数。它可以将样本从原始空间映射到一个更高维的特质空间中，使得样本在新的空间中线性可分。

所以在非线性 SVM 中，核函数的选择就是影响 SVM 最大的变量。最常用的核函数有线性核、多项式核、高斯核、拉普拉斯核、sigmoid 核，或者是这些核函数的组合。这些函数的区别在于映射方式的不同。通过这些核函数，我们就可以把样本空间投射到新的高维空间中。

> 用 SVM 如何解决多分类问题

SVM 本身是一个**二值分类器**，最初是为二分类问题设计的，也就是回答 Yes 或者是 No。而实际上我们要解决的问题，可能是多分类的情况，比如对文本进行分类，或者对图像进行识别。

针对这种情况，我们可以将多个二分类器组合起来形成一个多分类器，常见的方法有“一对多法”和“一对一法”两种。

> 总结

今天我给你讲了 SVM 分类器，它在文本分类尤其是针对二分类任务性能卓越。同样，针对多分类的情况，我们可以采用一对多，或者一对一的方法，多个二值分类器组合成一个多分类器。

另外关于 SVM 分类器的概念，我希望你能掌握以下的三个程度：

*  完全线性可分情况下的线性分类器，也就是线性可分的情况，是最原始的 SVM，它最核心的思想就是找到最大的分类间隔；
 *  大部分线性可分情况下的线性分类器，引入了软间隔的概念。软间隔，就是允许一定量的样本分类错误；
 *  线性不可分情况下的非线性分类器，引入了核函数。它让原有的样本空间通过核函数投射到了一个高维的空间中，从而变得线性可分。

SVM 是有**监督**的学习模型，我们需要事先对数据打上**分类标签**，通过求解**最大分类间隔**来求解二分类问题。如果要求解多分类问题，可以将多个二分类器组合起来形成一个多分类器。

SVM 整个执行的流程，包括数据加载、数据探索、数据清洗、特征选择、SVM 训练和结果评估等环节。

sklearn 已经为我们提供了很好的工具，对上节课中讲到的 SVM 的创建和训练都进行了封装，让我们无需关心中间的运算细节。但正因为这样，我们更需要对每个流程熟练掌握，通过实战项目训练数据化思维和对数据的敏感度。

![797fe646ae4668139600fca2c50c5282.png][]

> 最后，你能说一下你对有监督学习和无监督学习的理解吗？以及，SVM 最主要的思想就是硬间隔、软间隔和核函数。你是如何理解它们的？

*  有监督学习，就是告诉他这个是红的那个是蓝的。你给我分出红蓝
 *  无监督，自己学会认识红色和蓝色，然后再分类
 *  硬间接，就是完美数据下的完美情况，分出完美类
 *  软间隔，就是中间总有杂质，情况总是复杂，分类总是有一点错误
 *  核函数，高纬度打低纬度，

[506cc4b85a9206cca12048b29919a7ea.jpg]: /images/20220127/eeb16d0de880490c9cd847ae45cb7cf9.png
[765e87a2d9d6358f1274478dacbbce28.png]: /images/20220127/c711381c71ab48019f858e4d0ca2d3cd.png
[8342b5253cb4c294c72cef6802814176.png]: /images/20220127/3fc7eb503ae94148b98dd177f564de75.png
[797fe646ae4668139600fca2c50c5282.png]: /images/20220127/8c4b9d9d3f1e4db799387d65c291c5e9.png