机器学习中的数学(5)-强大的矩阵奇异值分解(SVD)及其应用

古城微笑少年丶 2022-03-10 12:52 135阅读 0赞

本文由LeftNotEasy发布于[http://leftnoteasy.cnblogs.com][http_leftnoteasy.cnblogs.com], 本文可以被全部的转载或者部分使用，但请注明出处，如果有问题，请联系[wheeleast@gmail.com][wheeleast_gmail.com]

**前言：**

上一次写了关于[PCA与LDA][PCA_LDA]的文章，PCA的实现一般有两种，一种是用特征值分解去实现的，一种是用奇异值分解去实现的。在上篇文章中便是基于特征值分解的一种解释。特征值和奇异值在大部分人的印象中，往往是停留在纯粹的数学计算中。而且线性代数或者矩阵论里面，也很少讲任何跟特征值与奇异值有关的应用背景。奇异值分解是一个有着很明显的物理意义的一种方法，它可以将一个比较复杂的矩阵用更小更简单的几个子矩阵的相乘来表示，这些小矩阵描述的是矩阵的重要的特性。就像是描述一个人一样，给别人描述说这个人长得浓眉大眼，方脸，络腮胡，而且带个黑框的眼镜，这样寥寥的几个特征，就让别人脑海里面就有一个较为清楚的认识，实际上，人脸上的特征是有着无数种的，之所以能这么描述，是因为人天生就有着非常好的抽取重要特征的能力，让机器学会抽取重要的特征，SVD是一个重要的方法。

在机器学习领域，有相当多的应用与奇异值都可以扯上关系，比如做feature reduction的PCA，做数据压缩（以图像压缩为代表）的算法，还有做搜索引擎语义层次检索的LSI（Latent Semantic Indexing）

另外在这里抱怨一下，之前在百度里面搜索过SVD，出来的结果都是俄罗斯的一种狙击枪（AK47同时代的），是因为穿越火线这个游戏里面有一把狙击枪叫做SVD，而在Google上面搜索的时候，出来的都是奇异值分解（英文资料为主）。想玩玩战争游戏，玩玩COD不是非常好吗，玩山寨的CS有神马意思啊。国内的网页中的话语权也被这些没有太多营养的帖子所占据。真心希望国内的气氛能够更浓一点，搞游戏的人真正是喜欢制作游戏，搞Data Mining的人是真正喜欢挖数据的，都不是仅仅为了混口饭吃，这样谈超越别人才有意义，中文文章中，能踏踏实实谈谈技术的太少了，改变这个状况，从我自己做起吧。

前面说了这么多，本文主要关注奇异值的一些特性，另外还会稍稍提及奇异值的计算，不过本文不准备在如何计算奇异值上展开太多。另外，本文里面有部分不算太深的线性代数的知识，如果完全忘记了线性代数，看本文可能会有些困难。

[http://www.cnblogs.com/LeftNotEasy/archive/2011/01/19/svd-and-applications.html][http_www.cnblogs.com_LeftNotEasy_archive_2011_01_19_svd-and-applications.html]

[http_leftnoteasy.cnblogs.com]: http://leftnoteasy.cnblogs.com/
[wheeleast_gmail.com]: mailto:wheeleast@gmail.com
[PCA_LDA]: http://www.cnblogs.com/LeftNotEasy/archive/2011/01/08/lda-and-pca-machine-learning.html
[http_www.cnblogs.com_LeftNotEasy_archive_2011_01_19_svd-and-applications.html]: http://www.cnblogs.com/LeftNotEasy/archive/2011/01/19/svd-and-applications.html