通过hmmlearn学习使用HMM隐马尔科夫模型

梦里梦外; 2022-06-04 05:25 939阅读 0赞

一.了解隐马尔科夫模型(HMM)  
具体可参考[https://www.zhihu.com/question/20962240][https_www.zhihu.com_question_20962240]，讲得很通俗易懂。  
本文使用的是hmmlearn模块，可以使用pip install hmmlearn安装。

二.HMM主要解决的三个问题。  
假设隐藏状态序列和观测状态序列分别使用Z和X表示，则解决的3个问题可表示为:  
1.解码问题：已知模型参数和X，估计最可能的Z；维特比算法  
2.概率问题：已知模型参数和X，估计X出现的概率；向前-向后算法  
3.学习问题：仅给出X和隐藏层个数，估计模型参数。 B-W算法，通常是经过一定数量的训练以后，得到模型，然后解决问题1和2。  
注意：  
对于估计模型参数，其实质是给出隐藏层和可观测层之间的转换模型，而用我下面举的例子，并不能反推出model.startprob\_开始转移矩阵，也不能推出隐藏层的混淆矩阵model.transmat\_，而且估计出的隐藏层和可观测层的转换矩阵行列顺序不固定，也就是说不能估算出Rainy->\[0.1, 0.4, 0.5\],有时为Sunny->\[0.1, 0.4, 0.5\]。

三.HMM常用的三种模型  
1.GaussianHMM 观测状态连续型且符合高斯分布  
2.GMMHMM 观测状态连续型且符合混合高斯分布  
3.MultinomialHMM 观测状态离散型

四.MultinomialHMM使用实例

#coding=utf-8
    ''' Created on 2017-12-4 本例为天气和行为的关系 '''
    import numpy as np
    import matplotlib.pyplot as plt
    # hmmlearn可以在安装numpy以后，再使用pip install hmmlearn安装
    from hmmlearn import hmm
    
    states = ["Rainy", "Sunny"]##隐藏状态
    n_states = len(states)##隐藏状态长度
    
    observations = ["walk", "shop", "clean"]##可观察的状态
    n_observations = len(observations)##可观察序列的长度
    
    start_probability = np.array([0.6, 0.4])##开始转移概率，即开始是Rainy和Sunny的概率
    ##隐藏间天气转移混淆矩阵，即Rainy和Sunny之间的转换关系，例如[0,0]表示今天Rainy，明天Rainy的概率
    transition_probability = np.array([
      [0.7, 0.3],
      [0.4, 0.6]
    ])
    ##隐藏状态天气和可视行为混淆矩阵，例如[0,0]表示今天Rainy，walk行为的概率为0.1
    emission_probability = np.array([
      [0.1, 0.4, 0.5],
      [0.6, 0.3, 0.1]
    ])
    
    #构建了一个MultinomialHMM模型，这模型包括开始的转移概率，隐藏间天气转换混淆矩阵（transmat），隐藏状态天气和可视行为混淆矩阵emissionprob，对模型参数初始化
    model = hmm.MultinomialHMM(n_components=n_states)
    model.startprob_= start_probability
    model.transmat_ = transition_probability
    model.emissionprob_ = emission_probability
    
    #给出一个可见序列
    bob_Actions = np.array([[2, 0, 1, 1, 2, 0]]).T
    
    # 解决问题1,解码问题,已知模型参数和X，估计最可能的Z； 维特比算法 
    logprob, weathers = model.decode(bob_Actions, algorithm="viterbi")
    print "Bob Actions:", ", ".join(map(lambda x: observations[x], bob_Actions))
    print "weathers:", ", ".join(map(lambda x: states[x], weathers))
    print logprob#该参数反映模型拟合的好坏,数值越大越好
    # 解决问题2,概率问题，已知模型参数和X，估计X出现的概率, 向前-向后算法 
    score = model.score(bob_Actions, lengths=None)
    #最后输出结果
    print score
    # 结果为-6.892170869，其实真正的概率是以自然数e为底数ln(P) = -6.892170869,所以概率P = 0.00101570648021
    # import math
    # print math.exp(-6.892170869)
    
    # 解决问题3，学习问题，仅给出X，估计模型参数,鲍姆-韦尔奇算法，其实就是基于EM算法的求解
    # 解决这个问题需要X的有一定的数据量，然后通过model.fit(X, lengths=None)来进行训练然后自己生成一个模型
    # 并不需要设置model.startprob_,model.transmat_,model.emissionprob_
    # 例如:
    # import numpy as np
    # from hmmlearn import hmm
    # 
    # states = ["Rainy", "Sunny"]##隐藏状态
    # n_states = len(states)##隐藏状态长度
    # 
    # observations = ["walk", "shop", "clean"]##可观察的状态
    # n_observations = len(observations)##可观察序列的长度
    # 
    # model = hmm.MultinomialHMM(n_components=n_states, n_iter=1000, tol=0.01)
    # 
    # X = np.array([[2, 0, 1, 1, 2, 0],[0, 0, 1, 1, 2, 0],[2, 1, 2, 1, 2, 0]])
    # model.fit(X)
    # print model.startprob_
    # print model.transmat_
    # print model.emissionprob_
    ## [[ 1.11111111e-01 2.22222222e-01 6.66666667e-01]
    ## [ 5.55555556e-01 4.44444444e-01 6.27814351e-28]]
    # print model.score(X)
    # model.fit(X)
    # print model.startprob_
    # print model.transmat_
    # print model.emissionprob_
    # 和第一次fit(X)得到的行顺序不一样
    ## [[ 5.55555556e-01 4.44444444e-01 9.29759770e-28]
    ## [ 1.11111111e-01 2.22222222e-01 6.66666667e-01]]
    # print model.score(X)
    # model.fit(X)
    # print model.startprob_
    # print model.transmat_
    # print model.emissionprob_
    # print model.score(X)
    # # 可以进行多次fit,然后拿评分最高的模型，就可以预测了
    # print model.predict(bob_Actions, lengths=None)
    # # 预测最可能的隐藏状态
    # # 例如:
    # # [0 1 0 0 0 1]
    # print model.predict_proba(bob_Actions, lengths=None)# 预测各个隐藏状态的概率
    # # 例如:
    # # [[ 0.82770645 0.17229355]
    # # [ 0.27361913 0.72638087]
    # # [ 0.58700959 0.41299041]
    # # [ 0.69861348 0.30138652]
    # # [ 0.81799813 0.18200187]
    # # [ 0.24723966 0.75276034]]
    # # 在生成的模型中，可以随机生成随机生成一个模型的Z和X
    # X,Z = model.sample(n_samples=5, random_state=None)
    # print "Bob Actions:", ", ".join(map(lambda x: observations[x], X))
    # print "weathers:", ", ".join(map(lambda x: states[x], Z))
    
    
    # # 保存模型
    # import pickle
    # output = open('D:\\xxx\\data1111.pkl', 'wb')
    # s = pickle.dump(model, output)
    # output.close()
    # # 调用模型
    # input = open('D:\\xxx\\data.pkl', 'rb')
    # model = pickle.load(model)
    # input.close()
    # model.predict(X)

五.隐马可夫模型参数设置，属性设置，模型函数(参考于[http://blog.csdn.net/zhydw317/article/details/78418750?locationNum=1&fps=1][http_blog.csdn.net_zhydw317_article_details_78418750_locationNum_1_fps_1])

模型参数：  
n\_components : 隐藏状态数目  
covariance\_type: 协方差矩阵的类型  
min\_covar : 最小方差，防止过拟合  
startprob\_prior : 初始概率向量  
transmat\_prior : 转移状态矩阵  
means\_prior, means\_weight : 均值  
covars\_prior, covars\_weight : 协方差  
algorithm : 所用算法  
random\_state : 随机数种子  
n\_iter : 最大迭代次数  
tol : 停机阈值  
verbose : 是否打印日志以观察是否已收敛  
params : 决定哪些参数在迭代中更新  
init\_params : 决定哪些参数在迭代前先初始化

模型属性:  
n\_features：n维高斯分布  
monitor\_：收敛监测  
transmat\_：转移矩阵  
startprob\_：初始向量  
means\_：均值  
covars\_：方差

模型常用函数调用:  
decode(X, lengths=None, algorithm=None)，返回最可能的隐藏状态  
sample(n\_samples=1, random\_state=None)， 随机生成一个模型的Z和X  
fit(X, lengths=None) ，估计模型参数  
predict(X, lengths=None) ，预测最可能的隐藏状态  
predict\_proba(X, lengths=None) ，预测各状态的概率  
score(X, lengths=None) ，当前模型下出现X的概率

六.隐马可夫模型常用领域  
1.语音识别，使用的就是第一问题，解码问题  
2.股票预测，使用的问题2，预测概率问题  
3.XSS攻击检测，使用的问题2，预测概率问题  
对于XSS攻击，首先我们需要对数据进行泛化,比如：  
\[a-zA-Z\]泛化为A  
\[0-9\]泛化为N  
\[-\_\]泛化为C  
其他字符泛化为T  
其中ANCT为可观测离散值，则对于URL中有字符串uid=admin123，则有:  
admin123->AAAAANNN，而uid=%3Cscript->TNAAAAAAA。  
假设我们只训练白样本，生成模型，则当识别一个白样本时score值就很高，然后拿去识别XSS，带有XSS黑样本的score值就会很低。

[https_www.zhihu.com_question_20962240]: https://www.zhihu.com/question/20962240
[http_blog.csdn.net_zhydw317_article_details_78418750_locationNum_1_fps_1]: http://blog.csdn.net/zhydw317/article/details/78418750?locationNum=1&fps=1