博士課程の振り返り
筆者：山本晋太郎
こんにちは。早稲田大学博士課程3年/産総研RAの山本と申します。1か月後(2022年1月)の公聴会に向けて博士論文の執筆に励んでいます。もうすぐ博士課程を終えるということで、博士課程の振り返りをしたいと思います。
cvpaper.challengeに入ったきっかけ
博士課程での研究は主にcvpaper.challengeに所属して進めていました(プロジェクトによっては例外もあります)。cvpaper.challengeに入ったきっかけは修士の時にさかのぼります。修士課程に上がってすぐの6月に、SSIIにおいて学部の卒業研究の内容を発表しました。その時にcvpaper.challenge主宰の片岡さんが発表を聞きに来ていたのがきっかけで色々お話しさせていただきました。当時はアメリカへの留学を控えていたのですぐにcvpaper.challengeに入るということにはなりませんでしたが、元々興味を持っていたこともあり修士1年が終わるタイミングから参加することになりました。
私の所属する研究室は学生が自由に研究テーマを決める方針で、外部の方との共同研究も推奨されているので、指導教授の先生にcvpaper.challengeに参加したい旨を伝えて参加して良いとすぐに許可を頂けました。元々は研究室でメインのテーマを抱えてcvpaper.challengeではサブテーマ的に研究をするつもりではいました。しかし、研究室でやろうとしていたテーマが思ったように進まなかったこと、cvpaper.challengeで始めたテーマが面白いと思うようになったことからメインテーマにすることにしました。博士課程進学後はcvpaper.challengeのテーマを中心に進めていました。
研究
無限リジェクト
博士に上がってすぐに、論文要約のユーザ評価に関する研究をしていました。文章要約の研究では自動評価指標を用いた評価が一般的であるため、実際に人が要約を読んだ際にどのように捉えられるかを実験したという内容です。
博士課程最初の仕事になったわけですが、自分でも思い出せないほどリジェクトを味わうこととなりました。最終的に博士3年になってからアクセプトされたのですが、2年近くかかったので色々な意味で思い入れ深い研究になりました(数えたところdesk rejectが2回、rejectが3回でした)。博士課程を修了するには論文が必要ですし、リジェクトの査読コメントを読むのは精神的につらいものがあります。何度も投稿を繰り返すことになったので、「前の査読では触れられなかったことに対する指摘」をされることもあって、内心「前の査読者はここ特に突っ込まなかったんだよな」と思ったこともありました。諦めようと思ったことも何度もあった一方で，ここで諦めてしまっては査読者の否定的な意見を認めたことになり、結果的に自分で研究の価値を否定してしまうことになるという考えがありました。リジェクトの査読コメントには、「論文を良くするためのヒント」や「論文の不足している点」などが多く含まれています。査読者の意見を可能な限り反映し、諦めずに投稿を繰り返すことを心掛けました。査読者のコメントで初めて知る知見というものもあったので、何度も投稿を繰り返すことの重要性を実感しました(例えば言語学的に論文のアブストラクトとはどのようなものとして考えられているかというのを提示していただきました)。
一方で、研究から離れる時間を作ることも心掛けました。「通るまで諦めない」「査読者の意見は論文を良くするためのヒントになる」と思っていても、リジェクトされたという事実は変わりません。このままだと博士課程も修了できません。そのような時に、無理に研究時間を増やすと精神的に辛い時間が長くなるだけで作業効率も下がります。そのため、夕食後や週末などは研究から離れることを心掛けて辛い現実を忘れる時間を作ることを心掛けました。夕方に作業を終えてパリーグtvで野球中継を観る、週末ずっとゲームをするなど研究から離れる方法はいくらでもあります。博士課程3年間、「研究以外のやりたいことをして過ごす時間を作る」という心がけが度重なるリジェクトを乗り越える上で大事だったと思います。
最後に、何度リジェクトをされてもサポートをしてくれた(~~時には愚痴にも付き合ってくれた~~)共著者の皆さんには感謝しています。
ICCV
今年のICCVで、変化キャプショニングの論文を発表しました。研究をするからにはいつかトップ会議で発表したいと常々思っていたので、学生のうちに達成できて良かったです。
この研究プロジェクトは、vision and language(vandl)グループのGL(Group Leader)2人で進めた研究プロジェクトです。私は以前から他の研究プロジェクトでBERTなどのTransformerモデルを扱っていたので、Transformer回りの手法構築をメインで担当していました。コロナ禍に進めた研究プロジェクトだったので、ほとんどのやり取りはオンライン上で行いました。チームで進める研究ということで、時には互いの認識のズレとかも発生することからコミュニケーションは頻繁に取るように心がけました。時にはslackの1つのスレッド上で100件以上やりとりをしたこともあるなど、密にコミュニケーションを取っていました。
所属研究室では1人1テーマで主に上級生がサポートという体制でしたが、複数人でプロジェクトを進めることで様々な良いことがありました。まずは自分1人がメインとなってはできなかったであろうプロジェクトをできることです。例えばICCVの論文では新たなデータセットの構築をしましたが私はそのために必要な知識などを持ち合わせていませんでした。データセット周りに貢献できない分、手法面で自分の知識を活用するなどお互いに得意なことを持ち合わせるということができました。論文を書く上でも自分1人では気付かないような誤りや誤解を生むような表現なども見つけてもらうことができました。特に著者内でも誤解を与えてしまうような表現は、研究を始めて知る査読者が理解するということはまずないので、論文を修正する上で大きな意味があったと思います。具体的なスケジュールは忘れてしまいましたが、最後の2週間くらいは著者同士で互いに執筆した箇所をチェックするというのを繰り返し行った記憶があります。このように、複数人で1つのプロジェクトを進めるというのはとても充実した結果でした。
投稿するにあたっては、PRMUメンターシッププログラムで牛久さんにもお世話になりました。今回は、投稿前の論文のチェックやリバッタルについて協力をしていただきました。私はリバッタルのある会議に出すのは初めてで、上述のジャーナルに落ち続けていたときは1発rejectでrevisionの機会すら与えられずにいたので、リバッタルを行うのは初めてでした。どのようにリバッタルをすればいいのか教えて頂けたのは非常に助かりました。最初の査読結果はweak accept×1、boaderline×3でした。スコアを見る限りリバッタル次第で採択される可能性は十分にあるとのことだったので、リバッタルは時間をかけて行いました。査読者が指摘していたポイントを全てリスト化し、それに対する回答を作成、特に重要そうな箇所を強調するようにして文章化するという感じで提出用の原稿を作成しました。最終的にweak accept×4に変わり、採択という結果になりました。
最初の査読結果を見る限りだと当落線上ギリギリだったので、notificationの日に朝起きてメールを見たらacceptの文字があったときの喜びは忘れられません。共著者の皆さんはもちろんのこと、PRMUメンターシッププログラムで論文執筆を助けてくれた牛久さんにも感謝しています。
研究の進め方
コロナの流行前後で研究スタイルは大きく変わりましたが、主にコロナ禍での研究の進め方について書こうと思います。コロナ禍以前の私は、「研究は研究室でやり自宅では極力研究から離れてゆっくり過ごす」ことを心掛けていました。これは、研究が辛くなった時に家でも研究のことを考えると精神的に休まることがないためです。しかし、新型コロナウイルスの感染拡大の影響で、自宅での研究活動を余儀なくされました。
cvpaper.challengeでは、slackをコミュニケーションの場として活用しています。毎年試行錯誤を繰り返していますが、現在はグループごとのチャンネルとグループ内のプロジェクトごとのチャンネルを活用しています。グループ毎のチャンネルではグループ全体のミーティングの連絡などを行っています。私がGLを務めているvandlグループでは2週に1回全員が集まって報告をする場を設けています。また、週に1回もくもく会と称して有志のメンバーがビデオ通話で繋ぎながら作業をするという時間も設けています。プロジェクトごとのチャンネルは、その名の通り研究プロジェクト単位でのチャンネルです。論文投稿時にはこちらのチャンネルを使用して議論を行います。ミーティングに関してもグループ全体のミーティングでは時間の都合で深く話せない部分もあるので、時間をかけて議論をしたい場合プロジェクト単位のチャンネルで設定をします。
コロナ禍での研究で心掛けたこととして、人に見られる意識を作ることです。私は研究をしていて少しでも進展が出た場合、実験結果などをプロジェクト単位のチャンネルに載せるよう心掛けました。これは、他のメンバーから意見をもらう意味合いもありますが、人に見られる状態を作る効果があります。自宅での作業は周りに人がいないため、さぼろうと思えばいくらでもさぼれてしまいます。しかし、slack上で頻繁に報告を行うようにすることで、「報告がない＝何も作業をしていない」という風に見えます。こうすることで、テレワークだからさぼってるなと思わせない環境を作りました。
留学
D1の秋に3か月ほどドイツに留学していました。所属大学で参加しているリーディング大学院では海外での研究活動が義務付けられているため、その一環としての留学です。当初はD2あたりで行ければいいかなと思っていましたが、事務の方から予算の都合でD1の間に行くことを推奨されたので早めることにしました。結果として、コロナの影響でD2以降海外渡航ができなくなってしまったのでD1の間に行って正解でした。
私は自然言語処理とコンピュータビジョンの研究をしていましたが、周りはコンピュータビジョンの研究者が多いので自然言語処理をメインでやっている研究室へ留学することを決めました。特にあてもなかったので、関連研究の著者の所属している研究室を候補として考えました。幸いにも最初にメールを送った研究室から来てもいいと返事を頂けたので、その研究室でお世話になることになりました。最初は言語のことを考えると英語圏が良いかなと思っていましたが、高校時代にドイツ語を勉強していて語学研修でドイツに行ったこともあったので、ドイツ語圏なら大丈夫だと思いドイツ行きを決めました。
留学中の研究テーマは、事前にメールでアイデアを出し合ったあと現地に着いてから詳しく決めるという形でした。週に1回研究室のメンバーや外部のゲストが研究を紹介するコロキウムを除くと特にコアタイムのようなものもなかったので、自分の好きな時間に自由に研究をさせてもらいました。一方でセキュリティの都合で部屋の鍵はもらうことができなかったので、他の学生や教員がいる時でないと出入りができないという制約がありました。定期的なミーティングとかもなかったので、相談したいことがあるときに頼んでミーティングを組んでもらうという形でした。ドイツの公用語はドイツ語ですが、ドイツ人以外の学生も多かったので研究室内では基本的に英語でした。3カ月の滞在だったので滞在中の論文投稿はできませんでしたが、帰国後もメールでやりとりをして論文化まで進むことができました。
就職活動
無事に博士課程を修了できたら来年からは企業の研究職として働く予定です。博士課程の学生の就職活動について情報がなくて自分自身も困ったので、どんな感じに進めたか簡単にまとめようと思います。
就活を意識し始めたのは博士2年の終わりくらいです。周りにも就活を始めている人が出始めたので自分もやらないといけないと思いながらも、論文投稿を理由になかなか始めずにいました。論文投稿が一通り落ち着いたのが博士2年の3月だったので、月末頃から動き始めました。これまで学会に参加した際には企業の方と交流する機会が多かったので学会に参加して情報を集めるということも考えていたのですが、コロナ禍でのリモート学会は交流の障壁が高く特に新しい交流が生まれにくいと感じていたので学会で就活は選択肢から除外しました(もちろんオンラインでも交流ができるという人もいるかと思いますが、私はオフラインの時と比べて人との交流がしにくいと感じています)。結局企業の情報は公式サイトの採用情報などウェブ上で手に入るものを中心に集めつつ、修士の時も少し就活をしていたのでその時のメモを見返すなどをしました。いくつかの企業は大学OBのリクルーターがついてくれたりもしたので、何度かやりとりをして話を聞いたりもしました。
最終的には2社応募し、1社から内定を頂いた時点で選考途中だったもう1社は辞退をしました。就職先とは2回面談を行い内定を頂くというプロセスでした(就活を始めた当時は知らなかったのですが、博士課程の場合は経団連や政府の指針の対象外となるため、内々定ではなくすぐに内定という形になりました)。面談の内容は研究に関するものがほとんどで、特別準備をすることなく学会で発表した内容をベースにプレゼン資料を用意するだけでした。面談で研究に関するディスカッションが盛り上がる雰囲気に惹かれたこと、これまでの経験を活かせる仕事ができると思ったことが決め手となり、入社を決めました。企業への就職は「配属ガチャ」という言葉があるようにやりたい仕事に就けない可能性があるとも聞きますが、選考プロセスが研究所内で完結しており研究部門単位で希望を出せたこと、入社した場合にどういう仕事をすることになるかを提示してもらえたことから、満足する形で終えることができました。
博士学生の就活に関する情報がほとんどないので何をしていいか分からない状態から始まりましたが、結果的に就活自体は1か月程度と短期間で終わりました。面談の内容も上述の通り研究に関することがほとんどたったので、博士課程での研究活動自体が就職活動になったという感じでした。特にCVとNLPの2分野に取り組んでいたことは、就職活動をする上でプラスに働いたという印象です。
この記事が気に入ったらサポートをしてみませんか？