統計学輪講 第03回

深層学習は、多層ニューラルネットワークをモデルとして用いた統計解析とみなせる。これを解析する枠組みとして、未知関数を推定するノンパラメトリック回帰としてみなす方法や、ガウス近似を用いてパラメータ数を無限に増やした極限を解析する方法がある。本発表ではそれぞれに方法に関連する最近の試みを紹介する。前半では、関数推定量の一様ノルムによる収束を敵対的訓練という方法論を用いて達成する方法を扱う。後半では、過剰なパラメータの極限を解析するのに必要なモデル制約にを緩和する内容を扱う。