統計学輪講 第15回

近年、PAC-Bayes上界を利用した統計モデルの次元によらない集中不等式が盛んに研究されている。特に、確率変数の共分散行列と標本数による不等式が得られ、データが見た目の次元よりも低次元な空間に集中している状況での統計的推測ならびに統計的学習における新しい知見を与えている。
本発表では、このPAC-Bayes上界について簡単な導入を与え、標本平均やロジスティック回帰の次元非依存集中不等式評価を示す。また得られた集中不等式によって、確率変数の共分散行列のトレースと最大固有値が標本数に対する自然なバランス条件を満たすならば、大数の法則・一様大数の法則が成り立つことを見る。