湘南会議"Interactive Visualization for Interpretable Machine Learning ~ Beyond Visualization and Steering of the Parametric Space"

湘南会議とは情報科学系の研究者が4日間ほど合宿形式で研究課題を議論する招待制イベントであり、国立情報学研究所が企画している（https://shonan.nii.ac.jp/ 参照）。表記の会議（https://shonan.nii.ac.jp/seminars/161/ 参照）に招待されて参加したので簡単に報告する。

湘南会議は横須賀と葉山の境界にある湘南国際村センター（https://www.shonan-village.co.jp/ 参照）で開催される。一般的なスケジュールは以下の通りである。
・日曜の夕方に集合してWelcome Partyからスタート。
・月曜朝に概要紹介や自己紹介。
・月曜午後に議論すべき話題をいくつかリストアップしてチームを分ける。
・火曜から木曜昼までチームごとに議論し、ときどき全員集合して経過報告。
・水曜午後にエクスカーション（鎌倉観光）を挟む。
20～30名程度の研究者が日本国内および海外諸国から招待される。

今回の会議はオーガナイザが可視化(Visualization)の研究者群ということで、招待された研究者も大半が可視化の研究者であり、タイトルから想像される機械学習やHCIの研究者は非常に少なかった。
また珍しいことにフル参加している日本人は僕一人だった。湘南会議の多くは半分くらいの参加者を日本人で占めているそうである。早い話、海外諸国で可視化の研究者がどんどん人口増加していて日本は圧倒されている、ということであろうかと思う。

月曜は自己紹介に続いて、中国・欧州・北米の各国参加者から「機械学習と可視化のコラボ」に関する講演があった。いずれの講演も、このテーマは各国とも投資されていて予算もあって、国際的協業体制が望まれているので皆さん一緒に研究しましょう、という内容を含む講演であった。

月曜の午後には参加者間で議題を出し合うブレーンストーミングか実施され、その結果として以下のいくつかの課題にもとづいてチームを分けることになった。
1) XAI (eXplainable AI) への評価方法
2) プログレッシブな説明可能性
3) 学習科学にもとづくタクソノミーの確立
4) 具体的なシナリオにもとづくXAIのユースケース
　例題1: ローン顧客判定
　例題2: 銀行での意思決定

僕は2)4)に参加した。2)ではk-meansやPCAといった初歩的(?)な教師なし学習からスタートして、機械学習の何が可視化されて何が説明可能になるのか、といった議論を重ねた。ただ印象として、k-meansやPCAを例題とした可視化の議論がDNNなどの最近の機械学習に対してもアナロジーがあるのかと言われるとややギャップが大きいように思った。議論はその両者を行ったり来たりという状況で、あまり結論めいた結論が合意された印象ではなかった。
4)では、どのような可視化をすれば何を顧客に説明できるか、というイラストを参加者各自がホワイトボードに書き、そこからボトムアップ的に、我々はこれから可視化によって何を説明可能にするべきか、という議論を進めた。やや時間不足気味に終了し、この続きを宿題にすることにした。

各チームとも、湘南会議の現場では課題に関する要求事項と解決手段を洗い出しただけにとどまり、その後の進展は宿題として各チームとも継続的に研究を進めることになった。僕が所属する上記4)のチームは、トップ国際会議への投稿を目指しましょうという高い目標をもって会議を終えた。

※なお湘南会議での議論の進捗は近日中にレポートとして公開される予定である。公開されるまでは詳細の説明を割愛することをご容赦されたい。

可視化のトップ国際会議（例えば https://ieeevis.org/ ）では2017年から機械学習の運用を支援するための可視化技術の発表がブームである。ニューラルネットワークの中間層の可視化によってその挙動を理解する研究、訓練データのアノテーションとテストデータの処理結果の対応を可視化することで機械学習の品質を検証する研究、などがその典型的な例である。各国ともこれらの研究課題に大きな投資がなされている。今回の湘南会議を通して、各国とも依然としてこの研究課題への取り組みが活況であることを確認したと同時に、この研究課題の国際的協業の中に自分も入っていかなければという焦りを強く感じた。

その他の細かいエピソードをこちらに載せましたので、余談も知りたい方はどうぞ。
https://www.facebook.com/iTooooooooooooT/posts/10220616692875124

※この記事は機械学習工学のイベントカレンダー（https://qiita.com/advent-calendar/2019/mlse）に登録しています。