偏見のない社会・脳・AIにむけて〜①歴史に学ぶ
偏見、つまり、偏った見方は、社会や生活に良くない影響をもたらします。
・なぜか売り切れるトイレットペーパー
・震災後にあふれるデマの数々
・自分たちに同調しない友達へのイジメ
トイレットペーパー不足は、我が家のストックが残りわずかだったので、肝を冷やしました。また、小学生のときのイジメの体験もあり、「偏見」こそ、生涯をかけて取り組むべき課題だと考えています。
「愚者は経験に学び、賢者は歴史に学ぶ」と言います。今回のnoteでは、今までに明らかになった事実を学び、次回以降で解決策を考えます。偏見の歴史を知ることは辛い作業ですが、現実の課題を直視してこそ、解決策を考えられるはず。
偏見は、社会、人の脳、そして最近はAIも絡み合った現象であり、順番に見ていきます。
偏見のある社会
偏見による社会課題はさまざまです。例えば、フェイクニュースがあります。フェイクニュースの定義は人によって見解が異なりますが、大きく3つの要素があるようです。(Wardle, C. 2017, Fake news. It’s complicated.)
1. 情報の種類：(騙そうとする意図が小さい順に) 風刺・パロディー、 誤った関連付け、ミスリーディングな内容、偽の文脈、偽装された内容、操作された内容、捏造された内容
2. 動機：質の悪いジャーナリズム、ウケ狙い、扇動・いたずら、感情、党派心、金儲け、政治的影響力、プロパガンダ
3. 情報の拡散様式：口コミ、マスメディア、ソーシャルメディアなど
歴史をさかのぼると、言語の起源となる約10万年前から噂やデマはあったでしょうし、紀元前のローマ帝国における政治的プロパガンダ、20世紀の第一次および第二次世界大戦における国民をあざむくマスメディアの統制などあります。
21世紀のいま、「1. 情報の種類」や「2. 動機」は昔とあまり変わっていないかもしれませんが、「3. 情報の拡散様式」であるソーシャルメディアの台頭により、フェイクニュースという社会課題がより大きくなっています。
例えば、ミャンマーにおいてフェイクニュースがFacebookで拡散し、70万人が国外脱出にまで至ったケースがあります(Stanley, S. 2017, Misinformation and hate speech in Myanmar)。
ミャンマーでは、多数の仏教徒の中、少数のイスラム教徒に対する差別があるという背景で、2014年7月にイスラム教徒(店長)が仏教徒(店員)をレイプしたというフェイクニュースがFacebookで拡散。これを見た仏教徒がイスラム教徒(店長)の家を襲撃。その後、数万人のヘイトスピーチから、組織間の武力攻撃にまで騒動が拡大。最終的に、70万人のイスラム教徒が海外に避難する事態となった。
日本でも、2011年3月11日の震災後に、「コスモ石油 有害物質の雨が降る？」などのデマが出回ったことは記憶にあるでしょう。(東北地方太平洋沖地震、ネット上でのデマまとめ)
フェイクニュースが登場すると、対策として上がるのが「ファクトをもっと報道しよう」です。
例えば、マスク不足が社会課題になり、世界保健機関(WHO) の「感染予防にマスク着用不要 過度の使用控えて」を日経などが報じています。しかし、あまり効果がないように思えます。
ファクトは、フェイクニュースに対して、どれほど効果があるのでしょうか？非常に残念ですが、「ファクトよりもフェイクニュースの方が、速く・遠く・広く・深く拡散する」という大規模な研究結果があります(Vosoughi, S. et al. 2018)。
MITメディアラボの研究グループが、Twitter創業の2006年から2017年までの英語ツイートの内、ファクトチェック団体によって真偽が明らかにされているニュースに関するツイート約12万6千件（事実は2万4400件、誤情報は8万2600件）を対象として、事実と誤情報の拡散を定量化した。
・速さ：最初の投稿がリツイートされるまでの速さは誤情報の方が事実の20倍速く、1500人に届くまでにかかる時間も誤情報の方が事実の6倍速い
・サイズ：事実は1000人以上にリツイートされるのは稀だったのに対し、誤情報はもっと多くの人にリツイートされ、中には数万人規模のものも
・幅：事実は1000人以上にリツイートが枝分かれすることは稀だったのに対し、誤情報にはさらに多くの分岐があり、中には数万人規模のものも
・深さ：事実が連続でリツイートされる回数はせいぜい10回だったのに対し、誤情報はさらに多くリツイートされ、中には19回も連続でリツイート
「いやいや、そんな現実だからこそ、自分はファクトを拡散させて、世界を1mmでも良くする！SNSの友達からもファクトが共有されることが多いし、世界は良くなっているはず！」
そういう想いがあってか、例えば、「お一人様10点まで」トイレットペーパー大量入荷したイオンの戦略が目から鱗 というニュースが話題になり、トイレットペーパーの在庫は工場には十分あるというファクトが共有されました。しかし、トイレットペーパー不足という社会の認識・現象は未だ変わっていないように思えます。
個人個人がファクトを共有することは本当に素晴らしく、世界は1mmくらいは良くなりそうですが、100km (地上から宇宙までの距離) ほどの改善になるかは疑問です。個人で影響を広げられる距離には限界があり、「社会ネットワークは分断しており、似た人たちどうしが繋がる閉じた情報空間」の中だけで情報が流通するという不都合な真実があります (Conover, M.D. 2012)。
2010年の米中間選挙のツイッターのデータを対象として、リベラル系と保守系のユーザーがどのようにリツイートするのかを調べた。
リベラル系のユーザーはもっぱらリベラル系のユーザーの投稿をリツイートし、保守系ではその逆の傾向が見つかった。さらに、保守系のユーザー方がより密にフォローしあっていることも分かった。
社会ネットワークが分断する仕組みは、「計算社会学」のシミュレーションでも研究されており、その様子をデモで見ることができます。
限られた交友関係だけの中で、井の中の蛙になりたくないですが、そう簡単ではないようです。
では、なぜ、このような偏見のある社会になっているのでしょう？そこには、人の脳の特徴が関係していそうです。
偏見のある脳
偏見を生みやすい脳の特徴として「認知バイアス」があります。認知バイアスは、よく知られているだけでも200種類ほどあるようですが、それらを4つ大分類、20の中分類で整理したものがあります。(Bustor, B. 2016, Congnitive bias cheat sheet)
1. 情報の過多 (Too Much Information)：多すぎる情報に何とか対処するための癖。場合によっては、自分にとって都合の良い情報だけをつまみ食いし、本当に重要な情報を隠してしまう可能性もある。
2. 記憶容量の不足 (What Should we Remember?)：重要な情報を優先的に記憶するための癖。つじつま合わせのために、記憶を編集したり過度に一般化をしてしまうこともある。
3. 時間の不足 (Need To Act Fast)：限られた時間の中で迅速に判断し、行動するための癖。場合によっては、短絡的な反応や非合理的な行動を促す可能性もある。
4. 意味の不足 (Not Enough Meaning)：さまざまな手がかりを利用して、データから何か意味のあるものをつくる癖。情報を勝手に補完し、過度に単純化した意味を作ってしまう恐れもある。
情報が多過ぎたり、記憶容量や時間や意味が不足している状況でも、人間は生きていく必要があるので、その過多や不足を直感などで埋めようとします。認知バイアスは、そうした人類進化で獲得されたと考えられます。しかし、真偽不明の怪しい情報に出会ったときには誤作動を引き起こしてしまうようです。
認知バイアスとして有名なのが「確証バイアス」です。「人は見たいものだけを見る癖」で、自分の信念を確証する情報は受け入れるけど、意見にそぐわない証拠を無視する傾向があります。例えば、投資判断をする実験では、都合の良い情報には脳が敏感に反応し、都合の悪い情報では脳の反応が低下したようです(Sarah, R. et all. 2014)。
約50名の実験参加者を募って、投資に関する100の決断を下してもらった。それは、リスクのある株を選ぶか、元本が保証された安全な債券を選ぶかというもので、それぞれの決断のあとに現時点での配当金が知らされ、再度選択の機会が与えられた。
その結果、自分が株を選んで、なおかつそれが高配当だったら、人はそれが良い選択だったと思う傾向があったが、株を選んで残念ながら低配当だったとき、人はそれを悪い選択だったと思うどころか、新しいデータ自体を無視してしまう傾向にあった。
さらに、参加者の脳活動の記録によると、事前の判断にそぐわないデータを受け取ったとき、脳の反応は低下したが、反対に新しいデータが自分の選択の正しさを裏づけたときは、脳の広域で活性化が認められた。
人は過剰に知りたがりでもあります。不確実であることの不快感を減らすために、早く情報を得ようとします。サルもまた知りたがりであり、情報自体を報酬と捉えて、ドーパミンニューロンが発火することが分かっています(Ethan, S. 2009)。
サルは一回のテストごとに水がもらえるようになっていて、多い場合と少ない場合がある。水が出てくる数秒前に、画面に映る2つの記号（青い星とピンクの四角など）のどちらかに目をやることで、事前の情報が欲しいという意思表示をすることができる。サルは数週間に及ぶ訓練を受け、すべての記号の意味を理解していた。もし事前情報を受け取る方を選んだら、画面に第3の記号（たとえば赤い丸）が現れて、出てくる水の量が多いか少ないかが示される。
その結果、サルは事前の情報を欲しがるだけでなく、進んでその代価を払った。報酬が大きいか小さいかを前もって知ることができるなら、貴重な数滴の水を逃すことすら厭わなかった。
また、脳内のニューロン活動を記録したところ、ドーパミンニューロンが、水や食べ物に反応する時と同じように、情報に反応して発火していた。
また、ストレスが多い環境は、心機能、消化器系、免疫系、生殖器系などに変調をもたらしますが、脳にも影響を与えるようです。パンデミックや震災など際に、平常時より噂やデマが広がるのも、その一例でしょう。ストレスにより、恐怖心に関わる扁桃体が活性化し、高次の認知活動に関わる前頭葉が働かなくなるようです。(Kenneth T. 2012)
被験者の学生たちは、最初は普通にIQテストを受けて、スコアを確認する。
数週間後、もう一度テストを受けるときに、試験中にグループ内における現在の自分のランクが表示されるようにした。序盤、学生たちの点数は急激に下がった。社会的な屈辱を受けることへの不安や競争へのストレスが、明晰な思考力を阻害したのだ。ところが試験が進行するにつれて、一部の学生だけは不安を振り払い、目の前の課題に集中できるようになった。そのうえ、他の学生よりも良い点数を取ろうという意欲が高まり、最終的なIQスコアはかえって上昇したという。一方、残りの生徒は回復できず、前回より低いIQスコアに終わった。
脳活動の記録を見ると、最初は全員の扁桃体の活動が高まったが、IQスコアが上昇した学生については急速に活動が低下し、その代わり前頭葉の働きが活発になった。おそらく彼らは意識して恐怖を手なづけ、目の前の仕事に集中したのだろう。一方で、残りの学生たちの扁桃体は高い活動を保ったままだった。
以上のように、視野が狭い中で、過剰に情報を得ようとし、ストレスで正常な判断ができなくなる脳の特性などが、偏見を生むようです。
偏見のあるAI
偏見は、社会や脳だけでなく、最近はAIにも課題があります。
例えば、フェイクニュースを拡散する要因として、認知バイアスと相互作用してAIが課題を増幅する「フィルターバブル」があります。
フィルターバブルとは、ユーザーの個人情報を学習したアルゴリズム（AI）によって、その人にとって興味関心がありそうな情報ばかりがやってくるような情報環境。ユーザーが情報をろ過する膜の中に閉じ込められ、みんなが孤立していくイメージに基づく比喩。(Eli P. 2012, 閉じこもるインターネット)
フィルターは、無限に広がるインターネットの情報の中から、自分の必要とする情報を見つけるためには必要です。一方で、自分と異なる意見や価値観の情報を隠してしまいます。フィルターを実現するためのパーソナライゼーションAIは、2009年12月4日に始まったと言われます。
2009年12月4日、Googleは、ログインした場所や過去の検索キーワードなどの複数の個人情報を使い、各ユーザーの特徴を推定し、彼ら彼女らがどんなウェブサイトを好むのかを推測して、クリックされる可能性が高いページを表示される可能性が高いページを表示するように検索アルゴリズム(AI)を変更した。
また、フェイクニュース以外にもAIの課題はあります。画像認識AIの領域では、2015年7月、Googleフォトで黒人の方がゴリラとタグ付けされたことが問題となり、霊長類のタグ付けは除外されました。インターネット上に黒人とゴリラのデータ量に偏りがあり、その状況をAIが学習してしまったと考えられます。
自然言語処理AIの領域では、2016年3月、Microsoftのチャットボット 「Tay」がリリースされた後、差別発言を繰り返して公開停止に至りました。ユーザーとの対話を自動で学習していたため、一部の差別発言をするユーザーとの対話もそのまま学習してしまった考えられます。（ちなみに、巷にあるAIの売り文句に「自動学習」がありますが、それはウソであるか、問題を理解していないケースが多いので、ご注意ください）
このように、社会や人に偏りがあり、その状況をAIがそのまま学習してしまうと、偏見のあるAIになってしまいます。AIに課題があるときは、自分たちに課題があるのではないかと疑う謙虚な姿勢が必要そうです。
偏見のない社会・脳・AIにむけて
以上のように、社会、人の脳、AIの偏見は、非常に根深い課題であることが分かりました。
また、個人的には、小学生のときのイジメの体験もあり、この偏見という課題を解決したいという強い想いがあります。
小学生の時は、親の仕事の事情で転校を繰り返していたこともあり、イジメの標的になることもあった。例えば、机の上の消しゴムを取られるとか、掃除用具ロッカーに閉じ込められるとか。そういう精神年齢の低い子供たちと付き合うのはエネルギーの無駄遣いなので、全く抵抗せずにいると、反応がなくてつまらないのか消しゴムを返してきたり、心配になってかロッカーを開けてきたりした。(この解決方法が正解とは限らない)
また、クラス全体でのイジメがあった（らしい）とき、僕にも「○○さんのことどう思う？」みたいなイジメ仲間への勧誘があったが、そういう同調圧力に嫌悪感があったので「好きでも嫌いでもなく普通」と答えていた。そうしたら、ホームルームの時に先生の指示で僕だけが先に帰らせらて、僕以外のメンバーが全員イジメに関わっており、そのイジメについて話し合う場があったらしい。
あと、僕が分け隔てなく友達と遊んでいると、その中には昔イジメられていた子もいたらしく、僕と遊ぶことによってイジメられなくなり、その子のお母さんから感謝の声があったと大人になってから知った。
そんな訳で、偏見によるイジメというエネルギーの無駄遣いには、違和感を通り越して、非常に嫌悪感がある。
次回は、これらの「現状を変える」にはどうすれば良いかを考えます。認知バイアスをうまく回避・抑制する方法や、偏見の少ないAIのための施策などを紹介します。
今回のnoteに興味を持ち、より詳しく学びたい方は、下記の書籍や記事をご参考ください。
いただいたサポートは、note執筆の調査費等に利用させていただきます