推薦システムになると推薦システムの問題がよく分かる

フィルターバブルやエコーチェンバーという単語が一般ニュースにも使われて久しい。推薦システムや推薦アルゴリズムによって囲まれた世界によって支配されたプラットフォームでは自分の行動から定義される自分の「興味関心」と類似したユーザーが消費するものが推薦される。それを消費すると、あなたの「興味関心」はどんどん収束していきやがて袋小路に閉じ込められる。その袋小路は多様性の無い画一的なコンテンツで満たされている。

言葉ではわかっても、推薦システムのこの動きを身体で理解することは難しい。なぜなら、推薦システムは私達の使う様々なサービスに埋め込まれている自然法則のようなものだからである。推薦システムはプラットフォームのエコシステムを支配する女王のように振る舞い、私達は彼女たちがどのようにプラットフォームというセカイを支配しているかを知ることは難しい。たとえば、YoutubeではYoutubeの動画推薦を無視して動画を視聴することは難しい。

しかし、基本的に推薦システムがどう動いているかを把握することはできる。その原理は大抵のコンピュータサイエンス関連の研究者や学生は理解できるし、そこまで複雑ではない。しかし、推薦システムは日常的に誰もが影響を受けている装置である。専門的な内容に興味がない人々はどう推薦システムの仕組みを学べば良いのだろうか。

ワシントン大学(University of Washington)の２人の研究者によって発表された論文がすすめる方法は至って簡単である。それは、「自分が良い推薦システムになる」ためのチュートリアルを体験してもらうという方法である。

ICWSM2022で発表された

彼らの提案するチュートリアルはFacebookのようなSNSでの広告配信を考える。まず、被験者には自分の興味関心を入力してもらう。そうすると、自分と同じような関心を持つ仮想の友人が現れ、自分と仮想の友人の興味関心がどのように類似しているかといった可視化や類似度の計算についての説明を受ける。

可視化によって非専門家にもわかりやすく仕組みが説明されている
(論文Figure４より抜粋)

そうして、友人に新しく広告を推薦するとしたら、どのようなトピックがよいか考え、推薦を行うように求められる。これはユーザーベース協調フィルタリングと呼ばれる代表的な推薦システムのアルゴリズムを模している。

チュートリアルでは友人へ推薦する広告を選ぶ
(論文Figure5より引用)

こうしたチュートリアルを体験したユーザーはより良い推薦システムになることはできたのだろうか？

すべてのレベルにおいて推薦精度の向上がみられた
（論文Figure6より抜粋）

論文では、チュートリアルを体験したユーザーはそうでない比較群に比べて正確な推薦ができるようになっていた。この、「推薦精度の向上」はデータサイエンスに対する知識で分けたどの階層(Novice, Medium, Experienced)でも観察されたことだ。

更に興味深いのは、問題を解いてもらった後に「レコメンデーションの問題とかどんなのがあると思う？」という質問を投げかけ自由記述欄として回答してもらった感想欄である。そこでは、「友人と同じようなものが推薦されるのだろう」といったいわばエコーチェンバーの問題点を指摘するものがみられたのである。しかもこのような言及をおこなった人の方がテストの点数が高かったこともわかった。

高い推薦精度を記録したユーザーほどFacebookでの友人の行動の影響に関して言及した
(論文Figure7より引用)

推薦に関するチュートリアルを受けると推薦が上手にできるようになるという結果に驚きはない。しかし、自由回答欄においてチュートリアルを受けた被験者が推薦システム、特にユーザーベース協調フィルタリング特有の問題について自発的に気付きを得たことは示唆に富む。つまり、よい推薦システムになると推薦システムの問題に自覚的になる、ということだかである。隗より始めよとはよくいったが、単に推薦システムの影響を受ける側ではなく、推薦システム側になると視点が広がり見えてくるものが変わるということかもしれない。