統計学輪講 第21回

マルコフ連鎖モンテカルロ法（MCMC）は，複雑な分布に対してのサンプリング手法として広く知られている．一方で，分布が多峰型である場合，生成されるchainが確率密度が低い部分を横切ることが困難になることにより，局所的なサンプリングに陥るという問題がある．この問題の改善の為，事前にモードを特定し，その情報を利用してサンプリングする最適化ベースの手法に着目する．

加えて，MCMC の混合の精度は，提案分布の選択に強く依存する。chainを生成している途中で，それまでのサンプリングを用いて，目標分布の形状を考慮に入れた適切な提案分布に更新していくことで，iterationが進むごとに混合改善を見込めることが直感的に期待できる．こういった枠組は Adaptive MCMC と呼ばれ，その適切な構成や収束性について様々な研究がなされている．実用上は，通常の MCMC と同等以上のパフォーマンスがあることが確認されており，ユーザーの介入を減らす手法として有用である．

本発表では，多峰分布に対する最適化ベースの MCMC に，各モード付近の形状や重みを考慮する Adaptive scheme を構築したアルゴリズム（JAMS）についての文献 [1] を主に紹介する。JAMS では，元の状態空間 X にサンプリングの現在位置の情報 I を加えた，拡張された状態空間 X × I における分布についてサンプリングを行っているのが特徴である．これにより，local moveの動きを制限することができ，各モードへのサンプリング割当問題に対応することで，各モード付近の形状に対応する Adaptive scheme を実現する．

[1] E. Pompe, C. Holmes, and K. Latuszński. “A framework for adaptive MCMC targeting　multimodal distributions”. The Annals of Statistics, 48(5), pp. 2930–2952, 2020