有名人への誹謗中傷への対処とケーススタディ
一時期、限界費用ゼロ社会というワードがある界隈で流行っていたことを覚えている人はいるだろうか。限界費用とは財を追加的に1単位生産するときに必要な費用のことである。たとえば、ピザ屋さんがピザという財をもう1枚作るときに余計にかかる費用がピザの限界費用である。追加的な生産にかかる費用なので、ピザを焼く窯といった固定費用は含まれず材料費や人件費といったもの飛鳥が限界費用に数えられる。
限界費用がゼロということは財を作るコストがゼロということなので、財が売れるのであれば無限に生産できることを意味する。現実には限界費用が完全ゼロはありえないが、限りなくゼロになる罪は多々ある。たとえば、ゲームソフトなどのような商品は、最初に作る費用は高額だが、ユーザーにソフトを配信する環境が整えば、追加的にユーザにソフトを配信するのににかかる費用はとても低い。インターネットの誕生と進化は限界費用(ほとんど)ゼロ社会を実現させたという意味である。
近年では、ニュースサイトの配信などもこれに当たる。ニュースの作成には人件費や取材費がかかっているが、これらのニュースをキュレーションするニュースサイトは限界費用ゼロでニュースが無限に配信できる。
しかし、記事を単に配信するだけではユーザーを惹きつけることはできない。そこで登場するのがアテンション・エコノミーである。人工知能の父(の一人)と呼ばれているハーバード・サイモンによって1969年に提唱されたこの概念がバズワードのようになっていることからも、人間の注意をいかにして取り込むかが今のインターネットにおける成功の鍵になっていることが伺える。ニュースサイトはいつからかコメント欄やリアクション欄、SNSでどれくらい賛同意見や、いいねの数、PV数を稼ぐことを目標として運営されるようになった。
しかし、このような人間の注意を惹きつける仕組みは負の側面を持つ。インターネットにおける炎上や有名人への誹謗中傷が最も顕著な例であろう。特に有名人への苛烈な誹謗中傷は時に最悪の結果を招いてしまう。このような状況は問題視されているものの、アテンション・エコノミーという「新しい」資本主義に抗うことはプラットフォーマーにも難しい。
韓国の研究者によって発表されたこの論文は、タイトルからもわかるように、このパンドラの箱を分析した論文である。
Closing Pandora’s Box on Naver: Toward Ending Cyber Harassment
この研究は韓国の最大検索エンジンであるNaverがコメント欄の規制を強化したことの効果を分析している。 研究者たちは、 ある芸能人がインターネットで誹謗中傷を受け亡くなった事件をきっかけにNaverがエンターテイメントカテゴリのコメント欄を廃止したイベントを分析している。
このようなコメント欄の廃止や、ユーザーの一定規模のBanなどはモデレーションと呼ばれる方法で、FacebookやRedditといったSNSでは時折行われる施策である。モデレーションはたしかに炎上やハラスメントには有効だが、サービスの金脈であるアテンションを捨ててしまう諸刃の剣だ。
プラットフォーマーはこれらの金脈を分析されないような様々対処法をとる。APIが提供されていなかったり、API規約で研究目的での使用が禁止されていたり、webスクレイピングのbotを弾いたり、データを取ろうとする研究者のメールアドレスに訴訟を匂わせる「挨拶」をおこなったりあの手この手を使ってくる。この研究でもデータはデータはNaverから提供されたわけではなく、ウェブスクレイピングで取得されている。つまり、著者達はパンドラの箱を開けるエピメテウスになろうというのだ。
論文では、まず韓国語コメントのテキストを使い感情分析(sentiemnt analysis)が行われている。予め学習された韓国語のための機械学習モデル(BigWaveA)を利用し、ニュースカテゴリごとに感情(Abuse/Offensive/Other)を分析した。論文では３つの芸能人(Sulli, Goo Hara, IU)とアイドルグーループ(Twice)そして比較のため会社（Samsung）に関する記事が分析されている。会社に関する記事に多くのAbuseやOffensiveなコメントが含まれていることがわかるように、誹謗中傷コメントを受けるのは芸能人だけでは無いことがわかる。しかし、SulliとGoo Haraの知人であるIUはそれほど誹謗中傷を受けていないことを論文は指摘している。さらに、これらの誹謗中傷のうち最も多いのが性別に関するコメントであった(性別、年齢、障害、政治的指向、宗教、人種、外見の7つ中)。これらのことは、直感的には予測できる結果であるが、データで定量的にこの事実が確認できたという点で重要な結果と言える。
また、Naver記事には絵文字をつかったリアクションを投稿することができる機能が実装されており、Emoticonと呼ばれている。これらの絵文字はコメントから予測する「感情」よりもより直接的にユーザーの心情を伺えるシグナルとなる。
２つの韓国の芸能人が亡くなった前と後でその芸能人に関するニュースのリアクション(絵文字)を比べたところ、「悲しみ(Sad)」の絵文字が増加していたことが確認されている。また、Beforeではどちらも「Mad」の感情に分類されるような絵文字が多いことがわかる。
このように、事件の前後で人々の態度が変化してしまう事実にあなたはなにを思うだろうか。結局、「パンドラの箱」というのはこのような私達の集団行動のことのように思える。この他にもこの論文では因果推論のための時系列モデルCausal Impactモデルを利用した分析など多角的な分析が行われている。
Kang, Nam Gu, Tina Kuo, and Jens Grossklags. "Closing Pandora’s Box on Naver: Toward Ending Cyber Harassment." Proceedings of the International AAAI Conference on Web and Social Media. Vol. 16. 2022.