《异常检测——从经典算法到深度学习》4 基于高斯概率密度异常检测算法

àì夳堔傛蜴生んèń 2023-02-13 08:52 10阅读 0赞

# 《异常检测——从经典算法到深度学习》 #

*  [0 概论][0]
 *  [1 基于隔离森林的异常检测算法 ][1 _]
 *  [2 基于LOF的异常检测算法][2 _LOF]
 *  [3 基于One-Class SVM的异常检测算法][3 _One-Class SVM]
 *  [4 基于高斯概率密度异常检测算法][4]
 *  [5 Opprentice——异常检测经典算法最终篇][5 Opprentice]
 *  [6 基于重构概率的 VAE 异常检测][6 _ VAE]
 *  [7 基于条件VAE异常检测][7 _VAE]
 *  [8 Donut: 基于 VAE 的 Web 应用周期性 KPI 无监督异常检测][8 Donut_ _ VAE _ Web _ KPI]
 *  [9 异常检测资料汇总（持续更新&抛砖引玉）][9]
 *  [10 Bagel: 基于条件 VAE 的鲁棒无监督KPI异常检测][10 Bagel_ _ VAE _KPI]
 *  [11 ADS: 针对大量出现的KPI流快速部署异常检测模型][11 ADS_ _KPI]
 *  [12 Buzz: 对复杂 KPI 基于VAE对抗训练的非监督异常检测][12 Buzz_ _ KPI _VAE]
 *  [13 MAD: 基于GANs的时间序列数据多元异常检测][13 MAD_ _GANs]

相关：

*  [ VAE 模型基本原理简单介绍 ][VAE _]
 *  [ GAN 数学原理简单介绍以及代码实践 ][GAN _]

# 4. 基于高斯概率密度异常检测算法 #

此篇主要介绍以下内容：

*  基于高斯概率密度异常检测算法概述
 *  基于高斯概率密度异常检测算法应用实例
 *  小结

## 4.1 算法概述 ##

**基本思想：** 首先，该算法假设数据集服从高斯分布的，然后再分别计算训练集在空间中的重心, 和方差, 然后根据高斯概率密度估算每个点被分配到重心的概率，进而完成异常检测任务。

**特点：**

*  是一种非监督算法
 *  适用于大致服从高斯分布的数据集
 *  不适用于高维特征数据集。样本数目(`n_samples`) 应该大于特征数目的平方(`n_features**2`)

**注：** 该算法应用场景极其有限，在此不做过多介绍。

## 4.2 应用实例 ##

在sklearn中实现了该算法，[官网文档地址][Link 1]

**实例1**  
来自于sklearn官网，[立即前往][Link 1]

import numpy as np
    from sklearn.covariance import EllipticEnvelope
    true_cov = np.array([[.8, .3],
                         [.3, .4]])
    X = np.random.RandomState(0).multivariate_normal(mean=[0, 0],
                                                     cov=true_cov,
                                                     size=500)
    
    cov = EllipticEnvelope(random_state=0).fit(X)
    # predict returns 1 for an inlier and -1 for an outlier
    print(cov.predict([[0, 0],
                 [3, 3]]))
    
    print(cov.covariance_)
    
    print(cov.location_)

输出内容如下：

[ 1 -1]
    [[0.74118335 0.25357049]
     [0.25357049 0.30531502]]
    [0.0813539  0.04279722]

说明：

*  numpy 中的 `multivariate_normal`函数 即产生多维的高斯分布的数据，这个例子中生产生二维数据集。
 *  `true_cov` 即协方差；在随机生成多维正态分布的时候需要指定 `mean` 即平均值，`cov` 即协方差，`size` 则是随机生成这些数的数目。
 *  `cov` 即生成的模型；`predict` 返回 `1` 表示正常数据，返回 `-1` 表示异常数据。
 *  `cov.covariance_` 即预测协方差矩阵(Estimated robust covariance matrix)；`cov.location_` 即预测 Robust 位置(Estimated robust location)

> 参考文档：  
> [https://scikit-learn.org/stable/modules/generated/sklearn.covariance.EllipticEnvelope.html\#sklearn.covariance.EllipticEnvelope][Link 1]  
> [https://scikit-learn.org/stable/modules/outlier\_detection.html\#outlier-detection][https_scikit-learn.org_stable_modules_outlier_detection.html_outlier-detection]

## 4.3 小结 ##

只是稍微提及一下该算法，基于概率运算的算法的核心应该就是思考数学模型构建过程，但为了给后面的深度学习相关算法留更多时间，就没有再去纠结数学模型相关推导与证明了。根据sklearn官网上的说明，与此算法相关的论文(A Fast Algorithm for the Minimum Covariance Determinant Estimator) 在1999年提出的，希望能把重点放在其他算法上，所以这里只能草草浏览一下，抱歉。

> Smileyan  
> 2020年5月28日

感谢您的 点赞、 收藏、评论 与 关注

[0]: https://blog.csdn.net/smileyan9/article/details/106239187
[1 _]: https://blog.csdn.net/smileyan9/article/details/106249594
[2 _LOF]: https://blog.csdn.net/smileyan9/article/details/106296832
[3 _One-Class SVM]: https://blog.csdn.net/smileyan9/article/details/106351651
[4]: https://smileyan.blog.csdn.net/article/details/106398233
[5 Opprentice]: https://blog.csdn.net/smileyan9/article/details/106587227
[6 _ VAE]: https://blog.csdn.net/smileyan9/article/details/109255466
[7 _VAE]: https://blog.csdn.net/smileyan9/article/details/109508502
[8 Donut_ _ VAE _ Web _ KPI]: https://blog.csdn.net/smileyan9/article/details/112307506
[9]: https://smileyan.blog.csdn.net/article/details/113728611
[10 Bagel_ _ VAE _KPI]: https://smileyan.blog.csdn.net/article/details/113463339
[11 ADS_ _KPI]: https://smileyan.blog.csdn.net/article/details/114763060
[12 Buzz_ _ KPI _VAE]: https://smileyan.blog.csdn.net/article/details/116106826
[13 MAD_ _GANs]: https://smileyan.blog.csdn.net/article/details/118312582
[VAE _]: https://smileyan.blog.csdn.net/article/details/107362252
[GAN _]: https://smileyan.blog.csdn.net/article/details/115307274
[Link 1]: https://scikit-learn.org/stable/modules/generated/sklearn.covariance.EllipticEnvelope.html#sklearn.covariance.EllipticEnvelope
[https_scikit-learn.org_stable_modules_outlier_detection.html_outlier-detection]: https://scikit-learn.org/stable/modules/outlier_detection.html#outlier-detection