統計学輪講(第24回)

日時      2009年10月27日(火)    15時~16時40分
場所      経済学部新棟3階第3教室
講演者    鈴木 大慈 (情報理工)
演題      Multiple Kernel Learningの効率的な計算手法と統計的な性質について

概要

本発表ではマルチプルカーネルラーニング (MKL) の新しい効率的な解法を提案する.
MKLはGroup Lassoをカーネル法へ拡張した手法であり,カーネルの選択を凸最適化
で行えるという利点がある.提案する手法はproximal minimizationと呼ばれる手法を
MKLへ援用したものである.proximal minimizationとは,逐次的に滑らかな双対問題を
構成しそれを順次最適化することによって真の最適解に収束する解の列を得る技法で
ある.提案手法は最適化途中で解のスパース性を有効利用し,ゼロ成分に関する計算
をスキップすることができる.そのため,カーネル数の増加に対する計算量のスケール
が良い.数値実験により既存手法と比較し,提案手法が特にカーネルの数が多いとき
に大幅な計算量の改善を見せることを示す.また,発表では解のスパースさと精度の
関係について画像認識タスクで比較した結果とMKLの統計的な収束レートについても
述べる.