統計学輪講 第10回

統計モデルとしてある m 次元指数型分布族の d 次元部分空間（曲指数型分布族）を仮定して，データから真の分布に近い分布（予測分布）を構成する問題を考える．

Kullback-Leibler ダイバージェンスを損失としたとき，Aitchison (1975) によってベイズリスクについて最適な予測分布はベイズ予測分布だと示されているが，ベイズ予測分布は陽に求まらない場合数値計算は困難である． 本発表では，モデルを拡張した m 次元指数型分布族にモデルを埋め込み，その拡張モデルのパラメータの推定量を plugin する E-plugin 分布を提案する． "E" は extended の意味である．

m 次元拡張モデルの期待値パラメータについての事後平均の E-plugin が，ベイズリスクについて拡張モデルの中で最適であることを示す． ベイズ推定量の E-plugin はベイズ予測分布に比べ数値計算が容易である．

E-plugin 分布を元の d 次元モデル内の分布に，その接空間に垂直な成分を足すことで漸近的に表し，その垂直移動によって Kullback-Leibler リスクが改善されることを示す．

最適な垂直移動が拡張モデルのベイズ推定量 E-plugin への垂直移動と一致していることを示し，リスクの改善分の幾何的な意味について考察する．

さらに，ベイズ推定量の E-plugin に対する事前分布の選択について，Jeffreys 事前分布を漸近的に優越するための優調和条件を与え，縮小型の事前分布が有効であることを示す．

これらの E-plugin についての情報幾何的な結果は，ベイズ予測分布に関する結果とパラレルに成立していることを示す．