關於 Hidden Markov Model 的一些整理

• Markov Property: 如果一個過程(process)的"將來"僅依賴於"現在"而不依賴過去, 則這個過程具有Markov Property, 或稱此過程為馬科夫過程, 即 X(t+1) = f(X(t))

• Markov Chain: 時間和狀態都離散的馬科夫過程稱為 Markov Chain

• Hidden Markov Model 與 Markov Model 的差別: 除了 State 之間的 transition, 每個 State 還有自己對於各 Observable symbol 的產生機率

• "Hidden" of Hidden Markov Model: 在大部分的情況下, 我們無法直接得知真正的"狀態"是什麼, 能夠直接觀測到的往往是一些"表徵", 例如頻率的高低

• HMM 能夠解決的三個問題
• (1) 給定一經觀察得到的 sequence 及 model , 評估此序列發生的可能性
• 即 P(觀察到的現象|模型)     
• Solution : Forward Algorithm
• (2) 給定觀察序列以及 model , 找出一個最合理能夠解釋觀察率列的 State 序列    
• 即 P(狀態序列|觀察到的現象,模型)    
• Solution : Viterbi Algorithm
• (3) 經由觀察序列學習出模型的參數    
• 即 怎樣的 model 可以使 P(觀察到的現象|模型)最大化    
• Solution : Baum-Welch Algorithm