統計学輪講(第20回)

日時 2018年11月20日(火)
15時45分 ~ 16時35分
場所 経済学研究科棟 3階 第3教室
講演者 南 賢太郎 (情報理工学系研究科D3)
演題 低次元サポートをもつ分布の推定について
概要

近年, Generative Adversarial Network (GAN) [1] をはじめとした機械学習の手法によって,高品質な自然画像データを生成することができるようになっている. 画像生成の問題は,サポートが低次元集合であるような確率分布(低次元分布)の推定として捉えることができる. しかし,確率密度を持たない分布の推定は,手法,理論ともに解明されていない部分が多く,現実のデータに対して安定して動き,かつ理論保証のある手法の開発は興味深い課題である.

本発表では,非対称最適輸送距離 (unbalanced optimal transport distance) に基づく推定量について考察する. この推定量は,見た目は Wasserstein GAN [2] とよく似ているが,実は,元の低次元分布に対してノイズ分布を畳み込んだモデルにおける最尤推定量と等価であることがわかっている [3]. この事実をもとに,真の分布のサポートが低次元の部分多様体であり,その体積が制約されているときの収束レートについて議論する.

[1] Goodfellow, et al. (2014). Generative Adversarial Nets. In NIPS 2014.
[2] Arjovsky, Chintala, Bottou (2017). Wasserstein Generative Adversarial Networks. In ICML 2017.
[3] Rigollet and Weed (2018). Entropic Optimal Transport is Maximum-Likelihood Deconvolution. arXiv:1809.05572