Towards Practical Node Classification for Attributed Graphs: Improving Effectiveness/Scalability and Benchmarking Graph Neural Network-based Methods

2022年度研究会推薦博士論文速報
［データベースシステム研究会］

前川 政司
（Megagon Labs, Inc. Research Associate）

邦訳：実践的な属性付きグラフにおけるノード分類に向けた精度とスケーラビリティの向上およびグラフ深層学習手法の実証研究

■キーワード
グラフ深層学習／ノード分類問題／人工グラフ生成

【背景】ウェブや人間関係を分析できるグラフ深層学習が重要
【問題】実問題の解決には，精度・効率性・評価基盤が不足
【貢献】精度・効率性向上と人工データによる評価基盤を提案

　私の研究では， ウェブや人間関係の分析に使われるグラフ深層学習を扱いました．ここでのグラフとは，モノとモノの繋がりを示すデータの表現を意味します（図が示すのは人間関係を表すグラフ）．このグラフに対して，近年注目を集めている深層学習を適用する技術のことをグラフ深層学習と呼びます．グラフ深層学習は一つひとつの頂点（図では人）とその周りの情報を用いて，頂点の興味関心や友達推薦を可能にします．しかし，現状の手法を実世界の問題解決に利用するためには，1）複雑な設定では低精度になる，2）大規模グラフへの適用が困難である，3）検証が限られた条件下だけ行われている，といった課題が残されています．私の博士研究では，これら3つの課題に対してそれぞれ解決策を提案し，グラフ深層学習の研究段階から応用利用までのギャップを小さくすることに取り組みました．

　1つ目として，複雑な設定で高精度な手法を提案しました．実世界のグラフは繋がり（例：人間関係）だけでなく，頂点それぞれの情報（例：年齢やSNSでの投稿内容）も含んでおり，それらは予測したい内容（例：興味関心）と複雑な関係を持っています．そこで提案手法では，繋がりの情報と頂点それぞれの情報を同時に考慮した上で，それらの間の複雑な関係を掴むために非線形関数を式に組み込むことで高精度化を達成しました．

　2つ目は効率性の向上のための取り組みであり，大規模グラフ（例：1億個の頂点）を扱うことのできない既存手法の本質的な部分を抜き出すことで，精度を維持したまま高速に処理可能にする技術を提案しました．コアとなる考え方は，多くの既存手法が採用していたグラフ畳込み処理の順番を効率的に実行できるように見直すことです．実験では，処理順番の変更が大幅に高速化を実現したことを示し，また精度にはほとんど影響を与えないことを示しました．

　3つ目は，グラフ深層学習手法の良し悪しを明らかにするための評価基盤の開発を行いました．既存研究では限られた種類の数個のグラフのみを用いて新手法を評価していましたが，これではその数個のグラフに特化した手法のみが注目されてしまいます．主要な原因は，評価用のグラフ作成が非常に高コストであることです（例：SNSで数百万人〜数億人の興味を人手で調べることは非現実的）．そこで，まず高機能な人工グラフ生成器を提案しました．それは実世界のグラフが持つ特徴を維持しながら，利用者の指示に沿うように多種多様な人工グラフを生成可能です．これによって，多種多様な条件での実験を可能にし，既存手法の強み弱みを明らかにしました．このグラフ深層学習用の評価基盤は，多くの研究者・開発者が利用できるようにオープンソースで提供しています．

　これら3つの取り組みをとおして，グラフ深層学習が実世界の課題解決に利用可能にするための基礎的な技術と評価基盤を開発しました．ますます注目を集めているグラフ深層学習の進歩の一助に，本研究がなることを願っています．

■Webサイト／動画／アプリなどのURL
グラフ深層学習のすゝめ （DEIM2023にて行われたチュートリアル動画） https://www.youtube.com/watch?v=7rgXi3Xp6NI

（2023年5月15日受付）
（2023年8月15日note公開）

ー ー ー ー ー ー ー ー ー ー ー ー ー ー ー ー ー ー
　取得年月：2023年3月
　学位種別：博士（情報科学）
　大学：大阪大学
ー ー ー ー ー ー ー ー ー ー ー ー ー ー ー ー ー ー

推薦文［コンピュータサイエンス領域］データベースシステム研究会
ウェブや人間関係の分析が可能なグラフ深層学習手法は，研究段階では注目を集めている．しかし，実用化に向けては課題が残されている．本博士論文では，まず基礎的な課題である高精度・高速化に取り組み，さらに適切な評価のための評価フレームワークを開発した．これにより，実用化に向けた既存研究の課題を明らかにした．　　　　　　　　　　　　　

研究生活　　博士課程では，いろいろな場所（海外の大学・研究所）に自ら足を運ぶことを強くお勧めします．ビデオ会議やチャットが主流化したからこそ，実際に行くことの重要性は増していると思います．メリットは，研究の幅の拡張，英語力向上，共同研究創出などさまざまありますが，ここではキャリア理解について話します．私の場合，香港や欧州での学生と意見交換する中で多くのことを学びました．国内外の大学や企業，研究機関の特徴を知り，初めて自分が向かいたい方向や博士課程で為すべきことが明らかになったと思っています．訪問するチャンスは歩いていても落ちてはいないので，大学の留学補助システムを調べることや学会発表の前後に近くの大学に訪問できないか尋ねることをお勧めします．具体的には，指導教員／先輩／共同研究者に相談してみるとよいと思います．すべては自分から動くことから始めてみてください．