統計学輪講 第12回

本発表では、現在進行中の高次元線形モデルに関するモデル平均化法の研究についての途中経過を紹介する。
社会科学や自然科学の諸分野において、サンプル数と比較して説明変数の次元が無視できないほど高いようなデータが観測されるようになってきている。それに伴って、低次元のときには起こりえなかった、高次元データ特有のさまざまな問題が発見されている。近年では、それらの問題の理論的な解決が重要なテーマの一つとなっている。回帰問題において、複数のモデルを考えたとき、各モデルに重みづけをし、統合して新たに一つのモデルを構成する方法としてモデル平均化法がある。本発表では、説明変数の次元が高い線形モデルにおいて、各モデルに説明変数の部分集合による線形モデルを考えたときのモデル平均化法を用いた際に、推定量の予測の良さが説明変数の次元の高さに応じてどのように変わるかを考える。その結果として、モデル平均化推定量においても二重降下現象が観測されることを紹介する。また各状況において、予測が最も良くなる最適な重みも導く。