統計学輪講 第19回

確率的勾配降下法は、ここしばらく機械学習の分野できわめて白熱した注目を集めてきたが、この発表では（逆問題である機械学習ではなく、順問題である）モンテカルロ法における確率的勾配降下法の使用例を紹介する。具体的には（中心極限定理にもとづくiid）モンテカルロ法に適切な分散減少法を施し、その平均計算と同時に推定分散が最小になるようにパラメータ探索を行うところで確率的勾配降下法を使用する。その際に生じる技術的な問題、たとえば標準的な中心極限定理が成り立たない点についても触れる。一般的に確率的勾配降下法のパフォーマンスはそのステップサイズに極めて敏感であるが、ここでは一意に設定されるステップサイズを提示しており、実用性は非常に高いといえる。