- 運営しているクリエイター
#深層学習
Jacot, Arthor, Gabriel, Franck and Hongler, Clement : Neural Tangent Kernel : Convergence and Generalization in Neural Networks
※本記事のPDFは情報処理学会電子図書館に掲載されており、情報処理学会会員は無料で閲覧できます。（http://id.nii.ac.jp/1001/00204331/） 甘利俊一（理化学研究所） 深層学習の不思議 深層学習は驚くほどの成功を収め，一躍AIの寵児となった．それは非線形系の確率降下学習という，私やロシアのTsypkinが大昔に提唱した単純な方法に基礎を置きながら，多くの工夫と発見を加えて素晴らしい成果を生み出し，大げさに言えば社会や文明の仕組みを変えるという．
Jacob Devlin et al. : BERT : Pre-training of Deep Bidirectional Transformers for Language Understanding
柴田知秀（ヤフー（株）） ※本記事のPDFは情報処理学会電子図書館に掲載されており、情報処理学会会員は無料で閲覧できます。（http://id.nii.ac.jp/1001/00202997/） 自然言語処理で2回目のブレークスルー 深層学習の登場によって画像認識や囲碁などさまざまな分野で人間を上回る性能が達成された．自然言語処理においても一定のブレークスルーがあり，最も成功したものは機械翻訳である．大量の対訳文（たとえば日本語文と英語文のペア）で学習すると，人間に匹敵す
Silver, D. et al. : Mastering the Game of Go without Human Knowledge
美添一樹（理化学研究所） ※本記事のPDFは情報処理学会電子図書館に掲載されており、情報処理学会会員は無料で閲覧できます。（http://id.nii.ac.jp/1001/00190378/） AI と囲碁 元世界ランク1 位の囲碁棋士イ・セドルにAlphaGo が勝利したのは2016 年3 月のことである．2014 年時点ではまだプロ棋士より三段以上弱かった囲碁プログラムが2 年足らずの間に急速に進歩を見せた理由は，深層学習，ゲーム木探索および強化学習の3 つの技術で
Duchi, J. et al. : Adaptive Subgradient Methods for Online Learning and Stochastic Optimization
Matthew J. Holland（ 大阪大学） ※本記事のPDFは情報処理学会電子図書館に掲載されており、情報処理学会会員は無料で閲覧できます。（http://id.nii.ac.jp/1001/00197990/） 空港の検査ゲート，病院の手術室，囲碁の対局，絵画の制作現場まで，「AI」（人工知能）と呼ばれる種々の機械学習手法の応用例を目にすることはもはや日常茶飯事である．「学習」というだけに，何となく数値化されたデータを「経験」として，過去の経験と照らし合わせな
Geoffrey E. Hinton, Simon Osindero and Yee-Whye Teh : A Fast Learning Algorithm for Deep Belief Nets
川上 玲（東京大学） ※本記事のPDFは情報処理学会電子図書館に掲載されており、情報処理学会会員は無料で閲覧できます。（http://id.nii.ac.jp/1001/00191204/） 深層学習のもとになった？ 深層学習（deep learning）への大きな注目は言を俟たないが，そのきっかけはこの論文であると考える人は多い．Ian Goodfellow らの（恐らく世界で最も使用されている）深層学習の教科書［1］や，学術的な解説記事にもそのような記述がある．しかし
