日报标题：赌场抓老千只是闹着玩儿，语音识别才是它的真本事 知乎用户，人工智能，认知，心理学，永远的小白 1. 赌场风云（背景介绍） 最近一个赌场的老板发现生意不畅，于是派出手下去赌场张望。经探子回报，有位大叔在赌场中总能赢到钱，玩得一手好骰子，几乎是战无不胜。而且每次玩骰子的时候周围都有几个保镖站在身边，让人不明就里，只能看到每次开局，骰子飞出，沉稳落地。老板根据多年的经验，推测这位不善之客使用的正是江湖失传多年的"偷换骰子大法”（编者注:偷换骰子大法，用兜里自带的骰子偷偷换掉均匀的骰子）。老板是个冷静的人，看这位大叔也不是善者，不想轻易得罪他，又不想让他坏了规矩。正愁上心头，这时候进来一位名叫 HMM 帅哥，告诉老板他有一个很好的解决方案。 不用近其身，只要在远处装个摄像头，把每局的骰子的点数都记录下来。 然后 HMM 帅哥将会运用其强大的数学内力，用这些数据推导出 1. 该大叔是不是在出千? 2. 如果是在出千，那么他用了几个作弊的骰子? 还有当前是不是在用作弊的骰子。 3. 这几个作弊骰子出现各点的概率是多少? 天呐，老板一听，这位叫 HMM 的甚至都不用近身，就能算出是不是在作弊，甚至都能算出别人作弊的骰子是什么样的。那么，只要再当他作弊时，派人围捕他，当场验证骰子就能让他哑口无言。 2. HMM 是何许人也? 在让 HMM 开展调查活动之前，该赌场老板也对 HMM 作了一番调查。 HMM（Hidden Markov Model）, 也称隐性马尔可夫模型，是一个概率模型，用来描述一个系统隐性状态的转移和隐性状态的表现概率。 系统的隐性状态指的就是一些外界不便观察（或观察不到）的状态, 比如在当前的例子里面, 系统的状态指的是大叔使用骰子的状态，即 {正常骰子, 作弊骰子 1, 作弊骰子 2,...} 隐性状态的表现也就是, 可以观察到的，由隐性状态产生的外在表现特点。这里就是说, 骰子掷出的点数. {1,2,3,4,5,6} HMM 模型将会描述，系统隐性状态的转移概率。也就是大叔切换骰子的概率,下图是一个例子，这时候大叔切换骰子的可能性被描述得淋漓尽致。 很幸运的，这么复杂的概率转移图，竟然能用简单的矩阵表达, 其中 a_{ij}代表的是从 i 状态到 j 状态发生的概率 当然同时也会有，隐性状态表现转移概率。也就是骰子出现各点的概率分布, （e.g. 作弊骰子 1 能有 90% 的机会掷到六，作弊骰子 2 有 85% 的机会掷到'小’）. 给个图如下, 隐性状态的表现分布概率也可以用矩阵表示出来， 把这两个东西总结起来，就是整个 HMM 模型。 这个模型描述了隐性状态的转换的概率，同时也描述了每个状态外在表现的概率的分布。总之，HMM 模型就能够描述扔骰子大叔作弊的频率（骰子更换的概率），和大叔用的骰子的概率分布。有了大叔的 HMM 模型，就能把大叔看透，让他完全在阳光下现形。 3. HMM 能干什么! 总结起来 HMM 能处理三个问题， 3.1 解码（Decoding） 解码就是需要从一连串的骰子中，看出来哪一些骰子是用了作弊的骰子，哪些是用的正常的骰子。 比如上图中，给出一串骰子序列（3,6,1,2..）和大叔的 HMM 模型, 我们想要计算哪一些骰子的结果（隐性状态表现）可能对是哪种骰子的结果（隐性状态）. 3.2 学习（Learning） 学习就是，从一连串的骰子中，学习到大叔切换骰子的概率，当然也有这些骰子的点数的分布概率。这是 HMM 最为恐怖也最为复杂的招数！！ 3.3 估计（Evaluation） 估计说的是，在我们已经知道了该大叔的 HMM 模型的情况下，估测某串骰子出现的可能性概率。比如说，在我们已经知道大叔的 HMM 模型的情况下，我们就能直接估测到大叔扔到 10 个 6 或者 8 个 1 的概率。 4. HMM 是怎么做到的? 4.1 估计 估计是最容易的一招，在完全知道了大叔的 HMM 模型的情况下，我们很容易就能对其做出估计。 现在我们有了大叔的状态转移概率矩阵 A,B 就能够进行估计。比如我们想知道这位大叔下一局连续掷出 10 个 6 的概率是多少? 如下 这表示的是，在一开始隐性状态（s0）为 1，也就是一开始拿着的是正常的骰子的情况下，这位大叔连续掷出 10 个 6 的概率。 现在问题难就难在，我们虽然知道了 HMM 的转换概率，和观察到的状态 V{1:T}, 但是我们却不知道实际的隐性的状态变化。 好吧，我们不知道隐性状态的变化，那好吧，我们就先假设一个隐性状态序列, 假设大叔前 5 个用的是正常骰子, 后 5 个用的是作弊骰子 1. 好了，那么我们可以计算，在这种隐性序列假设下掷出 10 个 6 的概率. 这个概率其实就是，隐性状态表现概率 B 的乘积. 但是问题又出现了，刚才那个隐性状态序列是我假设的，而实际的序列我不知道，这该怎么办。好办，把所有可能出现的隐状态序列组合全都试一遍就可以了。于是, R 就是所有可能的隐性状态序列的集合。的嗯，现在问题好像解决了，我们已经能够通过尝试所有组合来获得出现的概率值，并且可以通过 A,B 矩阵来计算出现的总概率。 但是问题又出现了，可能的集合太大了, 比如有三种骰子，有 10 次选择机会, 那么总共的组合会有 3^10 次...这个量级 O（c^T）太大了，当问题再大一点时候，组合的数目就会大得超出了计算的可能。所以我们需要一种更有效的计算 P（V（1:T）概率的方法。 比如说如下图的算法可以将计算 P（V1:T）的计算复杂度降低至 O（cT）. 有了这个方程，我们就能从 t=0 的情况往前推导，一直推导出 P（V1:T）的概率。下面让我们算一算，大叔掷出 3,2,1 这个骰子序列的可能性有多大（假设初始状态为 1, 也就是大叔前一次拿着的是正常的骰子）? 4.2 解码（Decoding） 解码的过程就是在给出一串序列的情况下和已知 HMM 模型的情况下，找到最可能的隐性状态序列。 用数学公式表示就是, （V 是 Visible 可见序列, w 是隐性状态序列, A,B 是 HMM 状态转移概率矩阵） （公式太多，请具体看我博客中的推导机器学习 --- 4. 大内密探 HMM（隐马尔可夫）围捕赌场老千） 然后又可以使用估计（4.1）中的前向推导法，计算出最大的 P（w（1:T）, V（1:T））. 在完成前向推导法之后，再使用后向追踪法（Back Tracking），对求解出能令这个 P（w（1:T）, V（1:T））最大的隐性序列.这个算法被称为维特比算法（Viterbi Algorithm）. 4.3 学习（Learning） 学习是在给出 HMM 的结构的情况下（比如说假设已经知道该大叔有 3 只骰子，每只骰子有 6 面）,计算出最有可能的模型参数. （公式太多，请具体看我博客中的推导机器学习 --- 4. 大内密探 HMM（隐马尔可夫）围捕赌场老千） 5. HMM 的应用 以上举的例子是用 HMM 对掷骰子进行建模与分析。当然还有很多 HMM 经典的应用，能根据不同的应用需求，对问题进行建模。 但是使用 HMM 进行建模的问题，必须满足以下条件, 1.隐性状态的转移必须满足马尔可夫性。（状态转移的马尔可夫性:一个状态只与前一个状态有关） 2. 隐性状态必须能够大概被估计。 在满足条件的情况下,确定问题中的隐性状态是什么,隐性状态的表现可能又有哪些. HMM 适用于的问题在于，真正的状态（隐态）难以被估计，而状态与状态之间又存在联系。 5.1 语音识别 语音识别问题就是将一段语音信号转换为文字序列的过程. 在个问题里面 隐性状态就是: 语音信号对应的文字序列 而显性的状态就是: 语音信号. HMM 模型的学习（Learning）: 语音识别的模型学习和上文中通过观察骰子序列建立起一个最有可能的模型不同. 语音识别的 HMM 模型学习有两个步骤: 1. 统计文字的发音概率,建立隐性表现概率矩阵Ｂ 2. 统计字词之间的转换概率（这个步骤并不需要考虑到语音,可以直接统计字词之间的转移概率即可） 语音模型的估计（Evaluation）: 计算"是十四”,"四十四"等等的概率,比较得出最有可能出现的文字序列. 5.2 手写识别 这是一个和语音差不多,只不过手写识别的过程是将字的图像当成了显性序列. 5.3 中文分词 “总所周知，在汉语中，词与词之间不存在分隔符（英文中，词与词之间用空格分隔，这是天然的分词标记），词本身也缺乏明显的形态标记，因此，中文信息处理的特有问题就是如何将汉语的字串分割为合理的词语序。例如，英文句子：you should go to kindergarten now 天然的空格已然将词分好，只需要去除其中的介词“to”即可；而“你现在应该去幼儿园了”这句表达同样意思的话没有明显的分隔符，中文分词的目的是，得到“你 / 现在 / 应该 / 去 / 幼儿园 / 了”。那么如何进行分词呢？主流的方法有三种：第 1 类是基于语言学知识的规则方法，如：各种形态的最大匹配、最少切分方法；第 2 类是基于大规模语料库的机器学习方法，这是目前应用比较广泛、效果较好的解决方案．用到的统计模型有 N 元语言模型、信道—噪声模型、最大期望、HMM 等。第 3 类也是实际的分词系统中用到的，即规则与统计等多类方法的综合。”[1]使用 HMM 进行中文分词. 5.4 HMM 实现拼音输入法 拼音输入法,是一个估测拼音字母对应想要输入的文字（隐性状态）的过程（比如, ‘pingyin’ -> 拼音） 使用 HMM 实现简单拼音输入法 参考: http://ai.stanford.edu/~serafim/CS262_2007/notes/lecture5.pdf 阅读原文
