The Social Dilemma - 善悪の判断ができないアルゴリズムの到達点

Netflixのドキュメンタリー映画のThe Social Dilemmaを見た。

The Social Dilemma (2020) - IMDb

SNSや検索エンジンの及ぼす負の側面をFacebookやgoogle、Twitterの関係者や学者へのインタビューを元に掘り下げていく内容。SNSはポジティブな面がいっぱいあるが、負の側面について考える内容が多かった。特に子どもを持つ親として。

負の側面とは

SNSをやることで、以下の悪い影響がでる。
- 通知音やポップアップに絶えず意識が行き、中毒化する
- 「いいね」やコメントに短期的に一喜一憂し、メンタル不調に陥る
- 自分が見たいものしか見えなくなり、それ以外の意見を拒絶する

印象に残った点

開発者や会社の人は誰も負の側面を起こしたくてやっていない。むしろ逆。でも、会社のビジネスを合理的に突き詰めていくと負の側面は出てしまうよなという点。
SNSや検索エンジンといったユーザーが情報を提供する形のビジネスモデルは広告事業である。つまり、ユーザーからお金を取るのではなく、ユーザーに広告を届けたいクライアントが課金をするモデル。
その時に重要なのは、「いかにユーザーに利用し続けてもらうか、長時間使ってもらえるか」という点である。
つまり、ユーザーを中毒にしていくことがビジネスモデル上必須になってくる。

毎日のネット上の行動の積み重ねがジワジワと思想の偏りを起こす。

私たちを中毒にするために、各SNSや検索サービスを提供する企業は、機械学習を用いて、私たちの意識を向けさせるために最適なフィードやニュースを流すようにプログラミングされている。
このプログラムはもう人間の手から離れており、誰もコントロールできない。
そのため、プログラムは、善悪や正誤の区別なく私たちを中毒にさせるための最適解をひたすら求める。
以下の記事（英語）はMITが研究した結果だが、1,500人に広まるまでのスピードはフェイクニュースが本当のニュースより6倍早いとの結果である。
つまり、最適解をひたすら求めるためには、プログラム上で本当のニュースよりもフェイクニュースが採用されやすいのである。

Study: On Twitter, false news travels faster than true stories

SNSで私たちがクリックした内容を受け、このフェイクニュース含む、私たちの嗜好に沿ったフィードやおすすめ動画が出てくるようになる。プログラムはフェイクだろうが悪意ある投稿を判断できない。判断できるのは、この内容が私たちを中毒にできるかどうか、である。
そして、私たちは自分とは違う意見や見たくないニュースがSNSに現れないようになっていき、SNS内に広がる自分の信じる世界にどっぷり浸かって行ってしまう。
これは毎日のクリックの複利的な影響なので、0.1%でも進み始めたら戻るのが大変。自分は大丈夫と思ってはいけないな、と自戒の念をこめて。

子どもへの影響がとっても危険

10代の子どもは、認知をコントロールする前頭葉が未発達。なので多感なお年頃と言われる。
そんな子ども達がSNS中毒になることで、SNSの評価に一喜一憂し、それが短期に何度も起きる。精神衛生上、いいわけがない。
映画内でも紹介されていたが、10代女子の自傷率や自殺率が2011年（スマホでSNSが利用された）から格段に伸びている。

思想の偏りも同様に危険。
これは子どもに限ったことではないのだが、特にまだ判断基準を自分で作りきれていない子どもにはリスクが高い。
ビジネスモデルの性質上、中毒にするプログラムは子どもにも容赦しない。
一方的な情報を浴びる続けることで、危険な思想を持ったり、多様な意見を受け入れることができなくなるリスクが非常に高まる。

親ができること

親が子どもをSNSの負の側面から守るためにできることは結構いっぱいあると思う。

- 親がスマホ中毒から脱する
→食事中にインスタやTwitter見ない、ベッドでスマホいじらない、話し中にスマホいじらない、とか
- アプリのポップアップや通知オンを出ないようにする
- スマホをいじらないで話す時間を作る
- SNSは16歳までやらせない、スマホの使い方を話し合う

子どもを守るには親も行動変容をする必要がある。
大変だけど、子どものスマホを野放しにすると本当に良くないなと思った。

最後に、映画のエンディングでYoutubeのおすすめ動画をクリックするなと専門家が話した30秒後に、Netflixのおすすめ映画がポップアップで出てくる皮肉が何とも言えない。