機械学習を学習
もともとはUIかぶれみたいな研究をやっていた私がコンピュータビジョン，パター認識，機械学習をかじるために社内勉強会や勉強のために読んできた本の備忘録．ここにあげた本は，割と斜め読みじゃなくて，がんばって読んだ本たちです．こうやって，並べると，やっぱり機械学習というより，コンピュータビジョンですね・・・．
駆け出し編
コンピュータビジョンという言葉もあまり知らなかったころに勉強した本．網羅的に基本的なことがまとめられていて，分野を見渡すには，非常に面白かった．この本で，機械学習とか最適化っての勉強しないと"まともなもの"は作れないんだなと知った．
最適化・機械学習黎明編
最適化って，アルゴリズムをCPUとかに合わせて速くなるように実装し直すことじゃないの・・・・？レベルから脱出する頃の本．大学時代の解析の授業を思い出しながら，あー，そういうことだったのか・・と読んでいた．この辺で，だんだんと機械学習ってのがあるんだな・・・どうやって使うんだろ，この概念というレベルにきたところ．上の金谷先生の本は，本当わかりやすく，最適化の勉強をやるならおすすめの本です．私は，大学時代に趣味でOpenGLやDirect3DでCGを書くのをガリガリとやっていました（例えば，ステンシルバッファで影をつける手法を線形代数を使って実装するなど・・・・当時は，まだシェーダがなかった（というか出始め）のです・・・・．）このため，線形代数は，割と手に馴染んでいたので，この辺の勉強をするときも，線形代数に関しては，そこまでは苦労しませんでした．
ついにPRMLへ
なんかよくわからんけど，機械学習をやる人たちにとても，もてはやされている印象の本．「ベイズ臭くて読めない」って人もいるけど，確率的な側面から機械学習をオーバービューするのにいいのかなとは思う．私は，この本のニューラルネットワークの章ほどわかりにくいニューラルネットワークの説明はないと思ってたりする．EMアルゴリズムの勉強とかは，この本と他の本を組み合わせて，勉強してた記憶があります．
コンピュータビジョンの基本に立ち返った編
ここのあたりでしばらく，事業とか色々な仕事やっていて，機械学習系の勉強が疎かになっていました．だけど，コンピュータビジョンで割といろいろなところででてくる再投影誤差最小化のための位置姿勢を勾配で計算するKLTとかの勉強，というより実装をちょこちょこやってた記憶がある．紙の上で実装するだけじゃなくて，実際に実装するのは，また大変なんですよね・・・・．カメラの位置姿勢を勾配法で求めるのって，割と本にまとまってないイメージがあります．誰か書いていただけないかしら・・・・．
Lucas-Kanade 20 Years On: A Unifying Framework
Visual Servoing and Visual Tracking
やはり基礎。ひたすら平方完成編
変分法というのをどこかで見かけて，またちょっと勉強してみようということで，また基礎に立ち戻った時に読みまくってたのがこちら．ここからは確率です．変分ベイズ学習の本で，初めて，色々な分布の事後確率の代数的な計算を真面目にやりました．この辺で，共役事前分布をガリガリに入れて，事後分布を計算しまくる練習した記憶があります．
この頃は，本当に狂ったように平方完成と事後分布の解析計算をやってた．この辺で，ようやっと確率でやる意味がわかってきたのかなぁ・・・というレベル・・・にたどり着いてきた気がします．
強化学習にかぶれる編
このままいくとデータが少ない研究者は何もできないじゃないか・・・・，そうかデータが不要？な強化学習なら，まだ見込みがあるのでは？んで，強化学習ってなんだよ？って勉強に始めた頃にばらばら読みまくった本たち．
この辺を読み始めて，一時期バンディットにはまり，連続バンディットでモデルとしてよく使われるガウス過程の勉強に流れていきました．バンディットの本は，機械学習プロフェッショナルシリーズの本で勉強しました．
この本のリグレットの下界の証明のところなどでよくわからなくなり，さらに，"the essence of knowlege"シリーズの"Regret Analysis of Stochastic and Nonstochastic Multi-armed Bandit Problems"なんかにも手を出して勉強してみましたが・・・．はっきりいって，よくわからず・・・結局，機械学習プロフェッショナルシリーズの本だけでもよかったのかな・・・という結果になった思い出があります．"the essence of knowlege"シリーズは，色々あるんですが，中身が濃くて私は好きです．
機械学習プロフェッショナルシリーズは，最後に連続腕バンディットにも進むのですが，ここでガウス過程を利用する手法が紹介されており，そこで，はて・・・？ガウス過程ってなんだったっけ・・・？ということで，また，罠にはまり，下の本に移動．私はガウス過程のモデルが綺麗なので好きなんですが，データで殴る分野では，あまり適さない手法ですね・・・・・．
最終的に，強化学習はデータはいらないけど・・・・無限の計算機が必要じゃないか・・ということに気づいて，強化学習も挫折．なかなかに機械学習は難しい・・・・．
それから数年・・・・
後輩に煽られるジジイ編
確率を使った論文や教科書で出てくる・・・dp(x)・・・なんで関数で積分しとんねんというやつです．測度というやつらしいです．久々に，渡邊先生と原先生の本を読んだ時は，ちゃんとした数学を勉強した感がありました．σ加法族の定義を何回読み直したもう忘れました．正直にいうと，原先生の本は，ラドン・ニコディムの定理の手前あたりで終わってます．勉強しないといけないのですが・・・・手が止まっている・・・・・．
原先生の本を教えてくれた若手に，やっと測度のことちょっとわかってきた気がする！と言ったら，新入社員に「位相やらずに測度ですか」って煽られたので（煽ってないですよ，本人談），以下の二つの本に突入．位相が出てくる度に，同僚に位相ってなんだっけ？って聞くことはこれでないはず・・・・！
他にも本を読んでる最中にわからんところを捕捉するために読んだ本や論文は無限にありますが・・・．こんなところですかね．
この記事が気に入ったらサポートをしてみませんか？