Augmenting Neural Networks with First-order Logic 讀書筆記

長久以來，嘗試要將 first order logic 嵌入 DNN 的各種研究一直沒有停過，也一直不斷的在推出新的嘗試。這篇2019的文章整理出三種目前的發展：

1. Artificial Neural Networks and Logic - knowledge distillation (Hinton et al., 2015)
2. Regularization with Logic - guide training neural networks
3. Learning with Structures - Constrained Conditional Model(this paper)

舉例偏 NLP 的應用，感覺很有潛力，但是好像沒有結合到最近很熱門的知識圖譜，測試的數據有稍比 benchmark 好上一點，但感覺上仍然是個練蠱練出來的結果。放個文首的圖，對 NLP 的 QA 任務算是不錯的說明。