您的位置: 首页  >  IT文章  >  隐马尔可夫模型 隐马尔可夫模型 1. 模型场景 2. 隐马尔可夫模型三要素 注：A为状态转移矩阵，B为观测概率分布矩阵，π为初始状态概率向量π为初始状态概率向量 A[ij]A[ij]表示从状态i转移到状态j的概率 B[i0]B[i0]表示盒子i中取出红球的概率，B[i1]B[i1]表示盒子i中取出白球的概率 3. 隐马尔可夫模型的三个基本问题 4. 概率计算算法 第一次从盒子2选择红球的情况： 第一次从盒子3选择红球的情况： 第一次从盒子4选择红球的情况： 第二次从盒子2选择红球的情况： 第二次从盒子3选择红球的情况： 第二次从盒子4选择红球的情况： 5. 学习算法 6. 预测算法 7. 附：EM算法 (3)M步：求使θ(i+1)=Q(θ,θ(i))的最大值θ(i+1)=Q(θ,θ(i))的最大值 由于log函数为凹函数，则 由于减式后面与模型参数θθ无关，P(z|θ(i))是已知的P(z|θ(i))是已知的，所以只需关

隐马尔可夫模型 隐马尔可夫模型 1. 模型场景 2. 隐马尔可夫模型三要素 注：A为状态转移矩阵，B为观测概率分布矩阵，π为初始状态概率向量π为初始状态概率向量 A[ij]A[ij]表示从状态i转移到状态j的概率 B[i0]B[i0]表示盒子i中取出红球的概率，B[i1]B[i1]表示盒子i中取出白球的概率 3. 隐马尔可夫模型的三个基本问题 4. 概率计算算法 第一次从盒子2选择红球的情况： 第一次从盒子3选择红球的情况： 第一次从盒子4选择红球的情况： 第二次从盒子2选择红球的情况： 第二次从盒子3选择红球的情况： 第二次从盒子4选择红球的情况： 5. 学习算法 6. 预测算法 7. 附：EM算法 (3)M步：求使θ(i+1)=Q(θ,θ(i))的最大值θ(i+1)=Q(θ,θ(i))的最大值 由于log函数为凹函数，则 由于减式后面与模型参数θθ无关，P(z|θ(i))是已知的P(z|θ(i))是已知的，所以只需关

分类: IT文章 • 2022-04-05 10:13:23

隐马尔可夫模型 隐马尔可夫模型 1. 模型场景 2. 隐马尔可夫模型三要素 注：A为状态转移矩阵，B为观测概率分布矩阵，π为初始状态概率向量π为初始状态概率向量 A[ij]A[ij]表示从状态i转移到状态j的概率 B[i0]B[i0]表示盒子i中取出红球的概率，B[i1]B[i1]表示盒子i中取出白球的概率 3. 隐马尔可夫模型的三个基本问题 4. 概率计算算法 第一次从盒子2选择红球的情况： 第一次从盒子3选择红球的情况： 第一次从盒子4选择红球的情况： 第二次从盒子2选择红球的情况： 第二次从盒子3选择红球的情况： 第二次从盒子4选择红球的情况： 5. 学习算法 6. 预测算法 7. 附：EM算法 (3)M步：求使θ(i+1)=Q(θ,θ(i))的最大值θ(i+1)=Q(θ,θ(i))的最大值 由于log函数为凹函数，则 由于减式后面与模型参数θθ无关，P(z|θ(i))是已知的P(z|θ(i))是已知的，所以只需关

本文主要是学习笔记，一方面是为了加强理解，感觉在做笔记过程中理解起来更简单，另一方面为了加强记忆，建立大脑关于‘隐马尔可夫模型’的神经网络

1. 模型场景

在介绍隐马尔可夫模型之前先来看个例子：
假设有4个盒子，每个盒子里面都装有红、白两种颜色的求，盒子里面的红包球数量如下：

隐马尔可夫模型 隐马尔可夫模型 1. 模型场景 2. 隐马尔可夫模型三要素 注：A为状态转移矩阵，B为观测概率分布矩阵，π为初始状态概率向量π为初始状态概率向量 A[ij]A[ij]表示从状态i转移到状态j的概率 B[i0]B[i0]表示盒子i中取出红球的概率，B[i1]B[i1]表示盒子i中取出白球的概率 3. 隐马尔可夫模型的三个基本问题 4. 概率计算算法 第一次从盒子2选择红球的情况： 第一次从盒子3选择红球的情况： 第一次从盒子4选择红球的情况： 第二次从盒子2选择红球的情况： 第二次从盒子3选择红球的情况： 第二次从盒子4选择红球的情况： 5. 学习算法 6. 预测算法 7. 附：EM算法 (3)M步：求使θ(i+1)=Q(θ,θ(i))的最大值θ(i+1)=Q(θ,θ(i))的最大值 由于log函数为凹函数，则 由于减式后面与模型参数θθ无关，P(z|θ(i))是已知的P(z|θ(i))是已知的，所以只需关注减式前面的式子，令 和算法定义中的步骤(2)相同，将原L的优化问题转换为求原问题下界Q(θ,θ(i))Q(θ,θ(i))的最大值因此，任何可以使Q(θ,θ(i))Q(θ,θ(i))增大的θθ都可以使L(θ)L(θ)增大,为了使L(θ)L(θ)有尽可能的增长，选择使Q(θ,θ(i))Q(θ,θ(i))达到最大，即

按照下面的方式抽球，产生一个球的颜色的观测序列：

  • (1)开始，从4个盒子里以等概率随机选取一个盒子，从这个盒子里随机抽出一个球，记录其颜色，然后放回
  • (2)然后，从当前盒子随机转移到下一个盒子，规则是：如果当前盒子是盒子1，那么下一个盒子一定是盒子2，如果当前盒子是盒子2或3，那么分别以概率0.4和0.6转移到左边或右边的盒子，如果当前是盒子4，那么各以0.5的概率停留在盒子4或转移到盒子3
  • (3)确定转移的盒子后，再从这个盒子里随机抽出一个球，记录其颜色，放回
  • (4)如此下去，重复进行5次，得到一个球的颜色的观测序列：
    O=(红，红，白，白，红)

在这个过程中，观察者只能观测到球的颜色的序列，观测不到球是从哪个盒子取出的，即观测不到盒子的序列

2. 隐马尔可夫模型三要素

上面的例子是一个典型的隐马尔可夫模型。有两个随机序列，一个是盒子的序列(状态序列)，一个是球的颜色的观测序列，前者是隐藏的，只有后者是可观测的。

隐马尔可夫模型有三要素，表示为

λ=(A,B,π)


注：A为状态转移矩阵，B为观测概率分布矩阵，π为初始状态概率向量

通过上面的例子，来分别计算下A,B和π的值

状态转移概率分布矩阵：

A=[01000.400.4000.400.6000.50.5]


A[ij]表示从状态i转移到状态j的概率

观测概率分布矩阵：

B=[0.50.50.30.70.60.40.80.2]


B[i1]表示盒子i中取出白球的概率

初始概率分布：

π=(0.25,0.25,0.25,0.25)

3. 隐马尔可夫模型的三个基本问题

(1) 概率计算问题

给定模型P(O|λ)

(2) 学习问题

已知观测序列P(O|λ)最大，用极大似然估计的方法估计参数

(3) 预测问题，也称为解码问题

已知模型I=(i1,i2,...,iT)。即给定观测序列，求最有可能的对应的状态序列

下面分别介绍针对不同问题的解决算法

4. 概率计算算法

4.1 问题描述

给定模型P(O|λ)

4.2 前向算法

(1) 计算状态t1下观测为红球的情况,注：序列和矩阵索引都从1开始

第一次从盒子1选择红球的情况：

a1(1)=π1B1(o1)=0.25∗0.5=0.125


第一次从盒子2选择红球的情况：

a1(2)=π2B2(o1)=0.25∗0.3=0.075


第一次从盒子3选择红球的情况：

a1(3)=π3B3(o1)=0.25∗0.6=0.15


第一次从盒子4选择红球的情况：

a1(4)=π4B4(o1)=0.25∗0.8=0.20

(2) 计算状态t2下观测为红球的情况，及第二次选择为红球的情况

第二次从盒子1选择红球的情况：

a2(1)=a1(1)A11B1(o2)+a1(2)A21B1(o2)++a1(3)A31B1(o2)++a1(4)A41B1(o2)


第二次从盒子2选择红球的情况：

a2(2)=a1(1)A12B2(o2)+a1(2)A22B2(o2)++a1(3)A32B2(o2)++a1(4)A42B2(o2)


第二次从盒子3选择红球的情况：

a2(3)=a1(1)A13B3(o2)+a1(2)A23B3(o2)++a1(3)A33B3(o2)++a1(4)A43B3(o2)


第二次从盒子4选择红球的情况：

a2(4)=a1(1)A14B4(o2)+a1(2)A24B4(o2)++a1(3)A34B4(o2)++a1(4)A44B4(o2)

...

通过上述规律我们得到公式:

(1) 初值

a1(i)=π(i)Bi(o1)

(2) 递推

at+1(i)=[∑j=1Nat(j)Aji]Bi(ot+1)

(3) 终止

P(O|λ)=∑i=1NaT(i)

4.3 后向算法

顾名思义，后向算法就是根据t时刻的观测序列概率算出t-1时刻观测序列的概率

令在t时刻状态为βt(i),则

βt(i)=P(ot+1，ot+2,...,oT|it=qi,λ)

要特别注意βt(i)的定义，后面才能很好的理解

(1) 对最终时刻的所有状态qi规定

βT(i)=1

(2)

βt(i)=∑j=1Naijbj(0t+1)βt+1(j)

(3)

P(O|λ)=∑i=1Nπibi(o1)β1(i)

5. 学习算法

5.1 问题描述

已知观测序列P(O|λ)最大，用极大似然估计的方法估计参数

隐马尔可夫模型的学习，根据训练数据集是包括观测序列和对应的状态序列还是只有观测序列，可以分别由监督学习与无监督学习实现

对于监督学习，由于数据集包含了观测序列和对应的状态序列，这样就可以直接根据利用数据集预估模型参数

对于非监督学习，可以使用EM算对隐参数进行学习。EM算法参考附录

6. 预测算法

6.1 问题描述

已知模型I=(i1,i2,...,iT)。即给定观测序列，求最有可能的对应的状态序列

6.2 维特比算法

维特比算法实际是用动态规划解隐马尔可夫模型预测问题，即用动态规划求概率最大路径

定义两个变量：

δt(i)表示在时刻t状态为i的所有单个路径中的最大概率值

δt(i)=maxP(it=i,it−1,...,i1,ot,...,o1|λ),i=1,2,...,N

ψt(i)表示在时刻t状态为i的所有单个路径中概率最大的路径的第t-1个节点

ψt(i)=argmax1<=j<=N[δt−1(j)aji],i=1,2,...,N

(1) 初始化

δ1(i)=πibi(o1)

ψ1(i)=0

(2) 递推，对t=2,3,...,T

δt(i)=max1<=j<=N[δt−1(j)aji]bi(ot)

ψt(i)=argmax1<=j<=N[δt−1(j)aji]

(3) 终止

P∗=max1<=i<=NδT(i)

iT∗=argmax1<=i<=N[δT(i)]

7. 附：EM算法

7.1 EM算法定义

输入：观测变量数据X，隐变量数据Z,联合分布P(X,Z|θ),也称为完全数据，这样更好理解点

输出：模型参数θ

(1)选择初始模型参数θ(0)，开始迭代

(2)E步：记θ的估计值，计算在第i次迭代的期望

Q(θ,θ(i))=E(logP(x,z|θ)|x,θ(i)))=∫zlogp(x,z|θ)p(z|θ(i))


(3)M步：求使θ(i+1)=Q(θ,θ(i))的最大值

(4)重复第(2)步和第(3)步

7.2 EM算法几点说明

(1)参数的初值可以任意选择，但需注意EM算法对初始值是敏感的

(2)E步求Q(θ,θ(i))中的第一个变元表示要极大化的参数，第二个变元表示参数的当前估计值，每次迭代实际在求Q的极大值

(3)给出停止迭代的条件，一般是对较小的正数||θ(i+1)−θ(i)<ξi||或||Q(θ(i+1),θ(i))−Q(θ(i),θ(i))||<ξ2

7.3 EM算法推导

L(θ)=argmaxlogP(x|θ)=argmaxlog∫zp(x,z|θ)dz

L(θ)=argmaxlog∫zp(x,z|θ)p(z|θ(i))p(z|θ(i))dz


由于log函数为凹函数，则

L(θ)≥∫zlogp(x,z|θ)p(z|θ(i))p(z|θ(i))dz

L(θ)≥∫zlogp(x,z|θ)p(z|θ(i))dz−∫zlog(p(z|θ(i)))p(z|θ(i))dz


由于减式后面与模型参数P(z|θ(i))是已知的，所以只需关注减式前面的式子，令

Q(θ,θ(i))=∫zlogp(x,z|θ)p(z|θ(i))


和算法定义中的步骤(2)相同，将原L的优化问题转换为求原问题下界Q(θ,θ(i))达到最大，即

θ(i+1)=argmaxQ(θ,θ(i))

7.4 EM算法收敛性

定理1：设L(θ)=logP(x|θ)为观测数据的似然函数，θ(i)为EM算法得到的参数估计序列，L(θ(i))为对应的似然函数序列

(1)在函数Q(θ,θ(i))与L(θ)满足一定条件下，由EM算法得到的参数估计序列θ(i)的收敛值θ∗是L(θ)的稳定值

以上为EM算法的'官方'说明，若不理解可以参考博客https://www.jianshu.com/p/1121509ac1dc

最后针对隐马尔可夫模型抛出抛出两个问题：

  (1) 如何对中文分词问题用隐马尔可夫模型进行建模和训练？

  (2) 最大熵马尔可夫模型为什么会产生标注偏置问题？如何解决？

参考资料：
李航老师的《统计学习方法》

相关推荐