20.3.3 學(xué)習(xí)隱馬爾可夫模型

我們的最后一個EM的應(yīng)用涉及學(xué)習(xí)隱馬爾可夫模型（HMM）中的轉(zhuǎn)移概率。回憶一下在第十五章中，一個隱馬爾可夫模型可以表示為一個動態(tài)的貝葉斯網(wǎng)絡(luò)，它有一個離散的狀態(tài)變量，如圖20.11所示。每個數(shù)據(jù)點由一個有限長度的觀察序列組成，要解決的問題就是從一組觀察序列（也可能只是一個長序列）中學(xué)習(xí)轉(zhuǎn)移概率。

圖20.11 表示一個隱馬爾可夫模型的展開的動態(tài)貝葉斯網(wǎng)絡(luò)（圖15.14的重復(fù)）

我們已經(jīng)知道如何學(xué)習(xí)貝葉斯網(wǎng)絡(luò)，但是有一個復(fù)雜因素：在貝葉斯網(wǎng)絡(luò)中，每個參數(shù)是不同的；而另一方面，在隱馬爾可夫模型中，在時刻t從狀態(tài)i到狀態(tài)j的單獨的轉(zhuǎn)移概率θi j t= P(Xt+1= j|Xt= i )在時間中是重復(fù)的——也就是說，對于所有的t，有θi j t＝θi j。為了估計從狀態(tài)i到狀態(tài)j的轉(zhuǎn)移概率，我們可以簡單地計算系統(tǒng)在狀態(tài)i時轉(zhuǎn)移到狀態(tài)j的次數(shù)的期望比例：

再一次，期望計數(shù)可以通過任何 HMM 推理算法計算得到。圖 15.4 中所示前向-后向算法可以修改得很容易計算必要概率。重要的一點是，所需概率是通過平滑而不是過濾獲得的；也就是說，我們需要注意在估計一個特定轉(zhuǎn)移發(fā)生的概率時的后續(xù)證據(jù)。如我們在第十五章中所說的，謀殺案中的證據(jù)通常是在犯罪發(fā)生之后（即從狀態(tài)i轉(zhuǎn)移到狀態(tài)j）獲得的。