2022年隐马尔可夫模型 .pdf

《2022年隐马尔可夫模型 .pdf》由会员分享，可在线阅读，更多相关《2022年隐马尔可夫模型 .pdf（7页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、隐马尔可夫模型维基百科，自由的百科全书跳转到：导航, 搜索隐马尔可夫模型状态变迁图（例子）x 隐含状态y 可观察的输出a 转换概率（ transition probabilities）b 输出概率（ output probabilities）隐马尔可夫模型 （Hidden Markov Model，HMM）是统计模型，它用来描述一个含有隐含未知参数的马尔可夫过程 。 其难点是从可观察的参数中确定该过程的隐含参数。然后利用这些参数来作进一步的分析，例如模式识别 。在正常 的马尔可夫模型中， 状态对于观察者来说是直接可见的。这样状态的转换概率便是全部的参数。而在隐马尔可夫模型中 , 状态并不名师资

2、料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 1 页，共 7 页 - - - - - - - - - 是直接可见的， 但受状态影响的某些变量则是可见的。每一个状态在可能输出的符号上都有一概率分布 。 因此输出符号的序列能够透露出状态序列的一些信息。目录隐藏 1 马尔可夫模型的演化2 使用隐马尔可夫模型o2.1 具体实例o2.2 隐马尔可夫模型的应用3 历史4 参见5 注解6 参考书目7 外部连接 编辑 马尔可夫模型的演化上边的图示强调了HMM 的状态变迁。 有时，明确的表示出模型的演化也

3、是有用的 , 我们用x（t1） 与x（t2）来表达不同时刻t1和t2的状态。在这个图中 , 每一个时间块（x(t), y(t) ）都可以向前或向后延伸。通常，时间的起点被设置为t=0 或t=1. 名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 2 页，共 7 页 - - - - - - - - - 编辑 使用隐马尔可夫模型HMM 有三个 经典(canonical)问题: 已知模型参数，计算某一特定输出序列的概率.通常使用 forward算法解决. 已知模型参数，寻找最可能的能产生某一

4、特定输出序列的隐含状态的序列 .通常使用 Viterbi 算法解决 . 已知输出序列， 寻找最可能的状态转移以及输出概率.通常使用Baum-Welch算法以及 Reversed Viterbi算法解决. 另外, 最近的一些方法使用Junction tree算法来解决这三个问题。 编辑具体实例假设你有一个住得很远的朋友, 他每天跟你打电话告诉你他那天作了什么. 你的朋友仅仅对三种活动感兴趣: 公园散步 , 购物以及清理房间 .他选择做什么事情只凭天气. 你对于他所住的地方的天气情况并不了解, 但是你知道总的趋势 . 在他告诉你每天所做的事情基础上, 你想要猜测他所在地的天气情况. 你认为天气的运

5、行就像一个马尔可夫链 . 其有两个状态 雨和晴,但是你无法直接观察它们, 也就是说 , 它们对于你是隐藏的 . 每天, 你的朋友有一定的概率进行下列活动: 散步, 购物, 或 清理. 名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 3 页，共 7 页 - - - - - - - - - 因为你朋友告诉你他的活动, 所以这些活动就是你的观察数据. 这整个系统就是一个隐马尔可夫模型HMM. 你知道这个地区的总的天气趋势, 并且平时知道你朋友会做的事情.也就是说这个隐马尔可夫模型的参数是已

6、知的. 你可以用程序语言(Python) 写下来 : states = (Rainy, Sunny) observations = (walk, shop, clean) start_probability = Rainy: 0.6, Sunny: 0.4 transition_probability = Rainy : Rainy: 0.7, Sunny: 0.3, Sunny : Rainy: 0.4, Sunny: 0.6, emission_probability = Rainy : walk: 0.1, shop: 0.4, clean: 0.5, Sunny : walk: 0.6

7、, shop: 0.3, clean: 0.1, 在这些代码中 ,start_probability代表了你对于你朋友第一次给你打电话时的天气情况的不确定性( 你知道的只是那个地方平均起来下雨多些). 在这里, 这个特定的概率分布并非平衡的, 平衡概率应该接近（在给定变迁概率的情况下）Rainy: 0.571, Sunny: 0.429 transition_probability表示基于马尔可夫链模型的天气变迁, 在这个例子中 , 如果今天下雨 , 那么明天天晴的概率只有30%.代码emission_probability表示了你朋友每天作某件事的概率. 如果下雨 ,名师资料总结 - - -

8、精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 4 页，共 7 页 - - - - - - - - - 有 50% 的概率他在清理房间 ; 如果天晴 , 则有 60% 的概率他在外头散步. 这个例子在 Viterbi算法页上有更多的解释。 编辑隐马尔可夫模型的应用语音识别 、中文断词 /分词或光学字符识别机器翻译生物信息学和 基因组学o基因组序列中蛋白质编码区域的预测o对于相互关联的DNA 或蛋白质族的建模o从基本结构中预测第二结构元素还有更多. 编辑 历史“隐马尔可夫模型”最初是在 20 世纪 60 年代

9、后半期 Leonard E. Baum和其它一些作者在一系列的统计学论文中描述的。HMM 最初的应用之一是开始于 20 世纪 70 年代中期的语音识别 。1在 20 世纪 80 年代后半期，HMM 开始应用到生物序列尤其是DNA 的分析中。从那时开始，在 生物信息学 领域它们已经变得无处不在。2 编辑 参见名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 5 页，共 7 页 - - - - - - - - - 安德雷马尔可夫贝叶斯推断估计理论条件随机域 编辑 注解1. Rabiner,

10、 p. 258 2. Durbin 编辑 参考书目Lawrence R. Rabiner , A Tutorial on Hidden Markov Models and Selected Applications in Speech Recognition . Proceedings of the IEEE, 77 (2), p. 257286, February 1989. Richard Durbin, Sean R. Eddy, Anders Krogh, Graeme Mitchison. Biological Sequence Analysis: Probabilistic Mod

11、els of Proteins and Nucleic Acids. Cambridge University Press, 1999. ISBN 0521629713 . Kristie Seymore, Andrew McCallum, and Roni Rosenfeld. Learning Hidden Markov Model Structure for Information Extraction. AAAI 99 Workshop on Machine Learning for Information Extraction, 1999. (also at CiteSeer : 1

12、 )名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 6 页，共 7 页 - - - - - - - - - http:/p.leeds.ac.uk/roger/HiddenMarkovModels/html_dev/main.htmlJ. Li, A. Najmi, R. M. Gray, Image classification by a two dimensional hidden Markov model, IEEE Transactions on Signal Process

13、ing, 48(2):517-33, February 2000. 编辑 外部连接Hidden Markov Model (HMM) Toolbox for Matlab(by Kevin Murphy)Hidden Markov Model Toolkit (HTK) (a portable toolkit for building and manipulating hidden Markov models)Hidden Markov Models (an exposition using basic mathematics)GHMM Library (home page of the GH

14、MM Library project)Jahmm Java Library(Java library and associated graphical application)A step-by-step tutorial on HMMs (University of Leeds)Software for Markov Models and Processes(TreeAge Software)取自“http:/zh.wikipedia.org/zh-cn/%E9%9A%90%E9%A9%AC%E5%B0%94%E5%8F%AF%E5%A4%AB%E6%A8%A1%E5%9E%8B ”名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 7 页，共 7 页 - - - - - - - - -