Ng-ML|第七周SVM

叁歲伎倆 2022-06-10 13:48 181阅读 0赞

# 第七周 SVM #

--------------------

## 视频内容摘要 ##

### Large Margin Classification ###

#### Optimization Objective ####

*  优化目标的提出：从LR开始
 *  从LR到SVM
 *  优化目标的变化：Cost function, C

#### Large Margin Intuition ####

*  最小化Cost function的条件（SVM中1，-1；LR中0）
 *  当C非常大时的决策边界
 *  最大间距：SVM具有鲁棒性的原因
 *  设置合适的C，分类性能可以不受异常值影响
 *  此节留下了一个问题：解方程如何得到那样的决策边界

#### The Mathematics Behind Large Margin Classification ####

*  向量内积
 *  一个向量在另一个向量上的投影

![SouthEast][]

### Kernels ###

#### Kernels Ⅰ ####

*  通过升高特征向量的次数构建复杂边界会使计算复杂度过高
 *  引入核函数，提供一种新的构造features的方法
 *  通过核函数和标记点landmarks训练出复杂的判别边界
 *  高斯核函数

![SouthEast 1][]

theta对f的影响：theta变小，f变化速度增快；theta变大，f变化速度减缓。  
![SouthEast 2][]

#### Kernels Ⅱ ####

*  选择标记点landmarks的方法：直接使用训练集x
 *  有许多针对SVM使用核函数的高级优化技巧
 *  不建议LR中用核函数，没有优化，很慢
 *  选择SVM参数的方法（C，theta）

![SouthEast 3][]

### SVMs in Practice ###

#### Using an SVM ####

*  常用核函数（线性核函数，高斯核函数）及其应用场景
 *  其他核函数(多项式核函数，字符串核函数……)，不过很少使用
 *  使用的核函数必须满足Mercer’s theorem
 *  选择LR还是SVM？

![SouthEast 4][]

## Markdown及扩展 ##

> Markdown 是一种轻量级标记语言，它允许人们使用易读易写的纯文本格式编写文档，然后转换成格式丰富的HTML页面。 —— [ \[ 维基百科 \]][_ _]

使用简单的符号标识不同的标题，将某些文字标记为**粗体**或者*斜体*，创建一个[链接][Link 1]等，详细语法参考帮助？。

本编辑器支持 **Markdown Extra** , 　扩展了很多好用的功能。具体请参考[Github][].

### 表格 ###

**Markdown　Extra**　表格语法：

<table> 
 <thead> 
  <tr> 
   <th>项目</th> 
   <th>价格</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>Computer</td> 
   <td>$1600</td> 
  </tr> 
  <tr> 
   <td>Phone</td> 
   <td>$12</td> 
  </tr> 
  <tr> 
   <td>Pipe</td> 
   <td>$1</td> 
  </tr> 
 </tbody> 
</table>

可以使用冒号来定义对齐方式：

<table> 
 <thead> 
  <tr> 
   <th align="left">项目</th> 
   <th align="right">价格</th> 
   <th align="center">数量</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td align="left">Computer</td> 
   <td align="right">1600 元</td> 
   <td align="center">5</td> 
  </tr> 
  <tr> 
   <td align="left">Phone</td> 
   <td align="right">12 元</td> 
   <td align="center">12</td> 
  </tr> 
  <tr> 
   <td align="left">Pipe</td> 
   <td align="right">1 元</td> 
   <td align="center">234</td> 
  </tr> 
 </tbody> 
</table>

### 定义列表 ###

**Markdown　Extra**　定义列表语法： 项目１ 项目２

定义 A

定义 B

项目３

定义 C

定义 D

> 定义D内容

### 代码块 ###

代码块语法遵循标准markdown代码，例如：

@requires_authorization
    def somefunc(param1='', param2=0):
        '''A docstring'''
        if param1 > param2: # interesting
            print 'Greater'
        return (param2 - param1 + 1) or None
    class SomeClass:
        pass
    >>> message = '''interpreter
    ... prompt'''

### 脚注 ###

生成一个脚注1.

### 目录 ###

用 `[TOC]`来生成目录：

*  第七周 SVM
    
     *  视频内容摘要
        
         *  Large Margin Classification
            
             *  Optimization Objective
             *  Large Margin Intuition
             *  The Mathematics Behind Large Margin Classification
         *  Kernels
            
             *  Kernels 
             *  Kernels 
         *  SVMs in Practice
            
             *  Using an SVM
     *  Markdown及扩展
        
         *  表格
         *  定义列表
         *  代码块
         *  脚注
         *  目录
         *  数学公式
         *  UML 图
     *  离线写博客
     *  浏览器兼容

### 数学公式 ###

使用MathJax渲染*LaTex* 数学公式，详见[math.stackexchange.com][].

*  行内公式，数学公式为：Γ(n)=(n−1)!∀n∈N。
 *  块级公式：

x=−b±b2−4ac−−−−−−−√2a

更多LaTex语法请参考 [这儿][Link 2].

### UML 图: ###

可以渲染序列图：

Created with Raphaël 2.1.0张三张三李四李四嘿，小四儿, 写博客了没?李四愣了一下，说：忙得吐血，哪有时间写。

或者流程图：

Created with Raphaël 2.1.0开始我的操作确认？结束yesno

*  关于 **序列图** 语法，参考 [这儿][Link 3],
 *  关于 **流程图** 语法，参考 [这儿][Link 4].

## 离线写博客 ##

即使用户在没有网络的情况下，也可以通过本编辑器离线写博客（直接在曾经使用过的浏览器中输入[write.blog.csdn.net/mdeditor][write.blog.csdn.net_mdeditor]即可。**Markdown编辑器**使用浏览器离线存储将内容保存在本地。

用户写博客的过程中，内容实时保存在浏览器缓存中，在用户关闭浏览器或者其它异常情况下，内容不会丢失。用户再次打开浏览器时，会显示上次用户正在编辑的没有发表的内容。

博客发表后，本地缓存将被删除。

用户可以选择  把正在写的博客保存到服务器草稿箱，即使换浏览器或者清除缓存，内容也不会丢失。

> **注意：**虽然浏览器存储大部分时候都比较可靠，但为了您的数据安全，在联网后，**请务必及时发表或者保存到服务器草稿箱**。

## 浏览器兼容 ##

1.  目前，本编辑器对Chrome浏览器支持最为完整。建议大家使用较新版本的Chrome。
2.  IE９以下不支持
3.  IE９，１０，１１存在以下问题  
    
    
    1.  不支持离线功能
    2.  IE9不支持文件导入导出
    3.  IE10不支持拖拽文件导入

--------------------

1.  这里是 **脚注** 的 *内容*. ↩

[SouthEast]: /images/20220610/daf267ad143143479e8bb1d7f1519fd8.png
[SouthEast 1]: /images/20220610/35199f41ff3a4081882ceebdc97d7b3b.png
[SouthEast 2]: /images/20220610/87a01988380f48fe8c82b7f6671ba405.png
[SouthEast 3]: /images/20220610/598987c5095b4a66b0d0f8cf091ca6ad.png
[SouthEast 4]: /images/20220610/983c52b9ccfb45949d3bdbee2fe442da.png
[_ _]: https://zh.wikipedia.org/wiki/Markdown
[Link 1]: http://www.csdn.net
[Github]: https://github.com/jmcmanus/pagedown-extra
[math.stackexchange.com]: http://math.stackexchange.com/
[Link 2]: http://meta.math.stackexchange.com/questions/5020/mathjax-basic-tutorial-and-quick-reference
[Link 3]: http://bramp.github.io/js-sequence-diagrams/
[Link 4]: http://adrai.github.io/flowchart.js/
[write.blog.csdn.net_mdeditor]: http://write.blog.csdn.net/mdeditor