統計学輪講のスケジュール

統計学輪講（第17回）
日時      2014年11月04日(火)    15時40分～16時30分
場所      経済学部新棟３階第３教室
講演者    南 賢太郎 (情報理工M1)
演題      ベイズ的最適化アルゴリズムの収束について

概要
Bayesian optimization(BO)とは、未知の目的関数をGauss過程からの標本としてモデル化し、
関数の推定に基づいて最大点の候補を逐次的に探索する最適化手法の総称である。
近年、機械学習のハイパーパラメータチューニングなどでは、凸とは限らず、1点の評価にも
きわめて時間がかかる未知関数の最適化を考える必要があり、BOの手法が注目を集めている。

BOに分類される代表的なアルゴリズムとしてexpected-improvement(EI)[2]がある。
EIは経験的にはよい性能をもつことが知られていたが、収束に関する理論的な保証は
[1]によって初めて与えられた。

本発表では、BOの手法の概観を説明し、次に[1]の収束レートに関する結果を紹介する。
また、多腕bandit問題との関連についても触れる。

[1]Bull, A. D. Convergence rates of efficient global optimization algorithms. Journal of Machine Learning Research, 12:2879-2904, 2011
[2]Močkus, J., On Bayesian method for seeking the extremum. In IFIP, 400-404, 1974
統計学輪講（第１７回）
