Graphical Models, Exponential Families, and Variational Inference

另一本神书。我谢谢澜瑞外文全家了！11-15

书的notation有点复杂。。。不过和bubeck的书比。。。还是好多了04-21

其实读的是graphic model那本书，但是一直没有正式出版？04-06

nice survey of variational inference09-28

看不太懂，先放一边……07-22

graphical model 必读06-11

补记。本书的核心内容实际上在于对各种问题的变分表示，图模型和指数函数族是一个具体的呈现方式，应该说本书提供了不少新的视角。配分函数的偏导数与相应的充分统计量的期望之间存在紧密的联系（如何估计配分函数，也是一个研究方向，如AIS方法），而在图模型这块，个人对于诸多message-passing的方法依旧极不感冒。在进行推断时，相比于高维情况下低效且不易判定是否已收敛的MCMC，个人更加偏爱VI（即使可能会损失一些精度），这里就引出如何构建合适的优化目标（经典的有ELBO，mean-field等），或者说如何去进行一些放松。举例而言，如果EM方法失效，即充分统计量无法精确求解，那么就可以尝试变分EM。当然，与数学物理中的变分法相比，这里的变分意味显得没那么浓了，如果再掺入神经网络，味道就更淡了。04-07

Jordan老爷子的经典之作08-28

Graphical Models必读物吧06-15

作者的符号系统，公式表达不直观。但是思想深刻。此领域最好的综述了。其实应该可以更好的01-20