統計学輪講 第17回

Bregman divergence や f divergence といった多くの divergence は, それらを用いて真の分布の推定をする際にモデル分布の規格化定数が必要となる. しかし, [1]で提案されている Hyvärinen divergence を用いると推定する際に規格化定数が必要なくなるため, 計算量の観点から利点がある.
そこで, このような利点を持つ Hyvärinen divergence を情報幾何的構造を見るとどうなるのかという疑問が生まれる.
本発表では, Hyvärinen divergence の紹介と, この divergence から[2]の方法を使って導かれる情報幾何的な量や構造に関して, いくらかその結果や, 今後考えたいと思っていることを発表する予定である.

参考文献
[1] Hyvärinen, A. (2005). Estimation of non-normalized statistical models by score matching. Journal of Machine Learning Research, 6(Apr), 695-709.
[2] Eguchi, S. (1983). Second order efficiency of minimum contrast estimators in a curved exponential family. The Annals of Statistics, 793-803.