NUS修士課程:修士課程の最後のラスボス、ハイライト、個人的な記念碑...CS5340 Uncertainty Modeling in AI

さて、これをもってNUS修士過程修了、その最後のセメスターのハイライト、山場、ラスボス、修士卒業記念的な位置付けで受講したCS5340 Uncertainty Modeling in AIについて体験レポートをしたい。

CS5340 Uncertainty Modeling in AIの概要

授業内容であるが、一言で言えば「ベイズとPGM (Probabilistic Graphical Model)の観点からの機械学習のやや理論寄りの内容」である。参考図書は以下の通り。

...どうであろうか、この参考書から溢れる「ラスボス感」。そして、教授によると「この中ではPRMLが一番分かりやすくて読みやすいですね」。

この中ではPRMLが一番分かりやすくて読みやすいですね

この中ではPRMLが一番分かりやすくて読みやすいですね

この中ではPRMLが一番分かりやすくて読みやすいですね

...この言葉は最初の授業のガイダンスの際に自身の脳内で何度も反響してこだました。文系出自の自身からするともう、「でたーっ理系ガチの先生の”これは簡単ですね”の怖いやつ!」と言う感じである。過去に理論の講座であるCS5339 Theory and Algorithms for Machine Learningを履修してFail, Fが付いたと言うトラウマもある。ああ、やっぱり講座withdrawして受けるの止めようかな、前のセメスターのグループワークやってた知人が「あの講座イージーだったよ!」と言ってたそっちにしようかなと正直かなり迷った。

しかしCS5340の担当教授の評判は生徒内でも高く、「難しい内容を分かる形で教えてくれる」「簡単ではないがチャレンジする価値のある授業だ」と言った事を複数の知人から聞いていた。また、聴講生の初期の頃に受けたCS5339で人生初の試験0点、Failを喰らって撃沈した事のリベンジを、今まで学んで来た内容も踏まえた上で卒業するにあたり何とかやりたい、math heavyで理論寄りの内容で単位を取りたいと感じていた。そうした事もあり、ここは覚悟を決めて受講する事とした。

配点は4回の個人コーディング課題が15%づつ*4で合計6割、最終試験が4割の配点、グループワークはなしと言う、純粋に個人競技でベイズやPGMにどっぷり浸かる内容である。

実際の授業体験レポ:数式7-80枚のパワポの濃密な3-3.5時間が毎回展開。

実際の授業体験については、過去の授業がYouTubeにアップされており、こちらを見るのが一番早いと思われる。

教授はETH Zurich出身で、3Dビジョンやロボティクス等の文脈での機械学習の専門家である。実際の授業はこのレコーディングよりはもう少しカジュアルな感じで、所々に適度に雑談やジョークも入りながら行う感じではあるが、基本的に「3時間から3.5時間、合間に5分だけ休憩を入れて数式や証明、数学的な解説が次から次へとぶっ通しでてんこ盛りでパワポ7-80枚」で展開されると言う非常に濃密なものである。授業が終わると先生も疲れるだろうが生徒の側も疲労困憊になる。

序盤の2−3回は統計やベイズ周りの簡単な解説、グラフィカルモデルの基本等から入る。教授曰く「最初の2−3回はですね、ハネムーンピリオドですから、スイートな内容なのですな」との事で、確かに付いて行けるには行ける。特にmarginalizationの辺り、足し算のΣの意味合いをしつこい位に図解や数式で分かるように教えて貰える辺り非常に親切であり、中盤以降つまずかないための土台作りが為される。しかしハネムーンのスイートちゃんな最初の2−3回から既に硬派ハードコア感の片鱗が見え隠れする点には留意が必要である。こう言うのは中盤以降は更に急角度に難度が上がる訳であり、相応の覚悟が必要になる。

中盤戦以降は、Variable elimination, belief propagation, factor graph, MCMC、メトロポリスヘイスティング法、Gibbs Sampling、EMアルゴリズム、Variational Infarence, VAE, Graph-cut...と最初に挙げた参考書からの内容が濃密に展開される。教授自身が3Dビジョンやロボティクスの専門家であり最近に発表した論文の内容等も紹介され、毎週毎週濃い3時間が展開される。

課題と試験:具体的な計算や実装を通じて理論や数式を地に足が付いた理解をさせる工夫が非常に良い。

一方で、コーディング課題と試験の過去問の練習問題が非常にこなれているものであり、ここが過去に撃沈したCS5339と比べると「挫折者が出来る限り出ないように配慮する工夫」が為されていた点であった。実際にノードが5個位、大体は0-1かせいぜい0-2位を取る変数の具体例でもって実際に式変形する、marginalizationをする、変数を削除したりmoralizationしたりする、例えばGibbs Samplingであれば最初の1−2周位の計算を手計算で解く等する過程で、地に足が付いた理解が得られるような工夫が随所に為されていた。

これは上記のIS5152にも通じる懇切丁寧さを感じた。IS5152よりも扱っている内容がより理論寄り、抽象的な内容である事を考えると、よくここまで凡人にも咀嚼出来るようにしたなと感じるに十二分であった。

授業内容についてもこうした丁寧さは随所に見られ、数式の途中を省略しないで丁寧な解説が為され、それでもわからなければオンライン上のフォーラムで質問すれば懇切丁寧に解説して頂いた。これは教授が先述の参考書で修士、博士と勉強して行く中で「数式の省略等には非常に苦労させられた」と言う経験から来ているようで、「この手のストレスを緩和しつつ、上述の辞書のように分厚い参考書群のエッセンスを咀嚼可能で理解しやすい形で教えるのがCS5340の役割」と何度も授業で述べていたのは非常に印象的であった。

まとめ

全体として、「ベイズとPGMの観点から、機械学習についてやや理論的/数学面の負荷を覚悟しつつも理解可能な形で体系的な理解を得る」と言った内容であり、個人的には非常に助かった、修士の最後に受講して良かったと感じている。個人的にこの授業はNUS修士過程のハイライトであり、教授は自分的にMVPである。先生の母校であるETH Zurichの自身的な印象も非常に良いものになった。数学や統計が好きで、優秀だが地に足がついていて落ち着いた感じで、数学が苦手な人の痒い所を理解した上で高度な話題を(簡単とは言わないが)凡人にも理解咀嚼可能な形で提供する、と言う難易度の高い仕事を達成されていると感じた。

YouTubeで授業を公開しているのに受講する価値があるのか?と言う問いに対しても明確にYesだと個人的には感じている。YouTubeで授業を公開していても尚、生の授業で語られるカジュアルだが知性があり数学やベイズが大好きなのだろうなと言う雑談やTip、取り組むに連れ地に足の付いた理解が得られるコード課題や練習問題等、受講する価値が十二分にあったと思えるものであり、この辺りが生徒から人気があり多数の受講者がいる背景であろうと思われる。

結果として、独学では全く手が出せず自身の中で積み残しになっていたPRMLの下巻の内容が読んでいて(今も自身には簡単にとは行かないが)理解出来る、発展的な学習をあとは独力でやれると言う所まで引き上げて頂いたように感じている。これは独学では全く出来なかった、修士過程に入り先生に引っ張り上げて頂く事で初めて可能であった事柄であり、大学の価値を存分に感じた講座であった。

配点の4割を占める最終試験については、時間制限内では完答出来ずのかなり難易度の高い試験であった。しかしながら過去問や練習問題の研究、A4で1枚のカンニングペーパー持ち込み可能であったので過去問の解法を手書きでノートにまとめた上で1ページに8ページ印刷の表裏=16ページ分の1枚あんちょこを作成して持ち込んだのが功を奏して基本的な問題では得点を重ねられた、後は全体の平均点の低さで恐らく救われる事となり、結果としてAの成績を収める事が出来た。成績がつけば上出来位に考えていたのでこれは大変に嬉しいサプライズであった。

全体として、修士課程の最後のラスボス、ハイライト、記念碑的な授業に相応しい内容であり、受講して良かったと間違いなく感じた講座であった。


この記事が気に入ったらサポートをしてみませんか?