統計学輪講 第18回

大規模なベイズ推論では、事後分布 π ∝ exp(−V) を直接計算できないため、近似が必要になる。代表的な手法が MCMC（サンプリングで近似する方法）と変分推論 （VI）（扱いやすい分布、たとえばガウス分布で近似する方法）である。MCMC には収束の理論保証が豊富にある一方、VI は実用上よく使われるものの、理論保証が乏しいという課題があった。

本論文は、Särkkä (2007) が提案した「ガウス分布で近似する常微分方程式系」が、ガウス分布の空間（Bures–Wasserstein 空間）上で KL ダイバージェンスを最小化するワッサースタイン勾配流に一致することを示した（Theorem 1）。これにより、 (1) 強対数凹の仮定のもとでの指数的収束（Corollary 1）、(2) 離散化アルゴリズムの非漸近的な収束保証（Theorem 2）、(3) 混合ガウス分布への拡張（Theorem 3）が得られる。

VI を MCMC に近い理論的基盤の上で議論できるようになった点が、本論文の意義である。

本講演では以下の論文を紹介する
[1]Lambert, M., Chewi, S., Bach, F. R., Bonnabel, S., & Rigollet, P. (2022). Variational inference via Wasserstein gradient flows. Advances in Neural Information Processing Systems, 35, 14434–14447. https://proceedings.neurips.cc/paper_files/paper/2022/hash/5d087955ee13fe9a7402eedec879b9c3-Abstract-Conference.html