2021年4月1日、機械学習の主要国際会議である International Conference on Learning Representations (ICLR)において、本学大学院情報工学研究院 知能情報工学研究系 二反田篤史准教授および東京大学大学院情報理工学系研究科 鈴木大慈准教授の論文がOutstanding Paper Awardsに選出されました。 本賞は、ICLR2021の採択論文860(全投稿数2997)本のうち優れた論文8本に贈られたものです。

本論文では、二層ニューラルネットワークに対する(平均化)確率的勾配降下法の収束解析を、ニューラルタンジェントカーネル(接神経核理論)を用いて行いました。そしてニューラルネットワークは非常に複雑な関数系にも関わらず汎化(未知データに適合)すること、およびその最適性を特定条件下で理論的に示しました。今後は、この理論の拡張に取り組み、深層学習の性質の解明に努めて参ります。


著　者　: 二反田篤史(大学院情報工学研究院 知能情報工学研究系 准教授)
鈴木大慈(東京大学大学院情報理工学系研究科 准教授)
発表題目: "Optimal Rates for Averaged Stochastic Gradient Descent under Neural Tangent Kernel Regime"

*本研究成果は二反田准教授の前所属(東京大学大学院情報理工学系研究科 助教)時のものです。※2021年4月より現職。
*ニューラルネットワークとは、機械学習におけるモデリング手法の1つで、人間の脳の仕組みを模倣した機械学習モデルです。

真の関数とニューラルタンジェントカーネルの関係性が学習速度に影響する様子