HMM / CRF 與 RNN

先看看李宏毅老師教學影片 RNN-1 RNN-2  ，以及 "工程師。日常" 的整理 1 2 3 4



目前語音辨識的應用，是以 DNN 取代 HMM 中的 GMM 來做 emission 提升效能。

文中提到未來結合 HMM / CRF 與 RNN 是一個研究方向，HMM 用來貫徹一些學習到的規則。

但要如何即時的把規則寫入模型呢?  pyro 的 stochastic variational inference 或許提供一個可能的思路。