偏見のない社会・脳・AIにむけて〜②現状を変える
新型コロナウィルスへの対策として、脳科学の知見を活かせそうです。
・手洗いの順守率を上げるには、叱るより褒める
・支援金の募集には、同情を誘うよりポジティブな写真
・活動自粛の要請には、危険を想起するデザイン
前半は、新型コロナウィルスへの社会対策の示唆になりそうな脳科学の知見を中心に紹介します。
後半は、より広い範囲で「偏見の少ない」脳やAIのための対策を紹介し、次回の「偏見のない」世界への足掛かりとします。
偏見の少ない社会
偏見の少ない社会を実現する第一歩は、ファクトを増やすことでしょう。その一例として、「ファクトチェック」があります。
ファクトチェックとは、発信された情報が客観的事実に基づくものなのかを調査して、その情報の正確さを評価し、公表すること(Y. Tateiwa, 2018, ファクトチェックとは何か)。
ファクトチェックの対象は、政治家や有識者などの発言やニュースやインターネット記事などの事実関係を含んだ言説。意見は真偽判定ができないため、ファクトチェックの対象にはならない。
日本では、2017年に「ファクトチェック・イニシアティブ（FactCheck Intitiative Japan）が設立され、2017年衆院総選挙では複数のメディアと協力して22本の検証記事を発表しています。現在は、NPO法人としてファクトチェックの普及活動や、ファクトチェッカー（ファクトチェックができる人材）とメディアを媒介するプラットフォームとなるべく活動をしています。今回の新型コロナウィルスの特設サイトも公開されています。
ただし、一度ファクトとして伝えられたものが、のちの検証でフェイクだと分かることもあり、その考えを修正するのは大変です。例えば、「ワクチンの副作用で自閉症になる」という偏見があります。
1998年の研究論文で、ワクチンと自閉症の関連性が初めて取り沙汰されて以来、予防接種を拒否する親は増えている(A.J. Wakefield, et al. 1998)。一流学術雑誌ランセットに掲載された論文は、のちに疑問視されるようになり、その後数年に及んで調査が行われた結果、MMRワクチンと自閉症には関連性がないという結論が出された(F. Godlee, et al. 2011)。
しかし、最初の研究によって燃え上がった炎は消えなかった。それを否定する科学的証拠があるのに、多くの人はいまだに副作用の疑念を恐れ、わが子のMMRワクチン接種を拒んでいる。
その結果、麻疹の患者数は増加した。アメリカにおける2014年の報告数は644例で、2013年の3倍に増えている。
そのような状況では、いくらファクトを伝えても、信念と異なるデータの信頼性は低く見積もられます。そこで、凝り固まった信念を払拭するのではなく、新しい考えを伝える方が有効なようです(Z. Horne, et al. 2015)。
子供に予防接種を受けさせるかどうかの決断には、2つの要素が関わってくる。ワクチン接種によるネガティブな副作用と、ポジティブな結果。ワクチン接種を拒否する親は、副作用の可能性（自閉症のリスク増大）に対してすでに強い信念を持っている。この認識を変えようとしても抵抗にあうだけだ。
ワクチンは自閉症を引き起こさないと説得する代わりに、同ワクチンが死に至る可能性のある病気を防ぐという事実を強調することにした。これは最も抵抗の少ない道である。ワクチンが子供たちを麻疹、おたふく風邪、風疹から守ってくれることを疑う理由はないのだから。
また、両親にとっても医者にとっても、優先すべきは子供の健康だ。意見の食い違いよりも共通点に注目することで、変化は訪れるのである。
この策は実に効果的だった。ワクチンの副作用への不安を払拭するよりも、子供たちを重病から守るワクチンの力を強調する方が、予防接種に対する意識に変化が見られたのだ。
また、ウィルス対策には手洗いが効果的というファクトがありますが、なかなか徹底されません。ミシガン州立大学の研究によると、公衆トイレを使ったあとに適正な手洗い（石鹸と水を使って15秒以上洗う）を実行する一般人は、たった5%で(Carl P. 2013)、また、飲食店の店員でも38%、さらに医療機関のスタッフですら38.7%だったようです(Armellino, D. et al. 2011)。
そのような状況で、手洗いの順守率を上げるには、注意書きやカメラ監視よりも、順守率の上昇を見せて肯定的なフィードバックをすることが効果的です(Armellino, D. et al. 2013)。
アメリカ北東部にある集中治療室。簡便なジェル状の手指消毒剤や洗面台が部屋ごとに備えつけられており、医療スタッフが手洗いを忘れないよう、至るところに注意書きが貼られていた。それでも順守率は非常に低かった。
そこで、21台の監視カメラで、治療室内の手指消毒剤と洗面台を監視し、ウェブ経由でインドの20名の監視員が24時間体制で、手洗い状況を評価した。医療スタッフがカメラの存在をはっきり意識しているにも関わらず、ルールに適う手洗いをしたスタッフはたった10%だった。
次に、医療スタッフが自分たちの行動をすぐにフィードバックできるよう、各部屋に電光掲示板を設置した。その時間に働いているスタッフの何%が手を洗っているか、1週間でどれくらいの率になるかなどが示される。スタッフの一員が手を洗うたび掲示板の数値が上がり、「よくできました！」などの好意的なコメントが個別に表示される。これにより、順守率が90%近くまで上昇した。
また、望ましい行動を継続させるために、肯定的なフィードバックを永遠にし続ける必要はなく、それがなくなっても人は同じ行動を長期にわたって続ける場合が多い。
実践的な方法としては、手洗いの状況をリアルタイムで直接モニタリングするのは難しいので、石鹸や消毒液の使用量を手洗いの人数と見立てて、その使用の増加数を飲食店・オフィス・家庭などで示すような間接的なモニタリングでも有効かもしれません。
このような行動の裏には、素敵な報酬（アメ）では行動を促進され、恐ろしい恐怖（ムチ）では心体が縮こまって行動が抑止される仕組みがあるようです。
人間の脳が「前向きな」行為を「ご褒美」と結びつけているのは、それが最も有用な反応であることが多いからだ。これは脳の「ゴー反応」と呼ばれ、脳深部の中脳から送られたゴー信号が、脳のほぼ中央にある線条体へと伝わり、最終的には行動反応をコントロールする前頭葉の領域へ到達する。
一方、何か悪いことを予測したときに、私たちは直感的に後ずさる。脳が「ノー・ゴー反応」を引き起こすからだ。ノー・ゴー信号も、中脳の深部から線条体へと伝わり、前頭葉へと送られる。ゴー信号と違うのは、ノー・ゴー信号が反応を抑止する点である。
その結果、人は悪いことよりも良いことを予測した時の方が、行動を起こす可能性が高くなるわけだ。(Marc G. et al. 2012)
また、クラウドファンディングで資金を集めるような際にも、同じように特徴が見られ、さらに、脳の側坐核の働きを観察することで資金調達の成否を予測できるようです(Alexander G. 2015)。ウィルス対策の支援金を集める際も参考になりそうです。
オンライン上での資金募集13,500件を分析したところ、ネガティブな写真よりも、ポジティブな感情を喚起する写真（特に笑った顔）が依頼文に添えられている方が資金提供を受けやすいことが判明した。慈善活動では目を背けたくなるような写真が頻繁に使われていることを考えれば、意外な気もする。確かに入院患者の写真は同情を誘うかもしれないが、同時に苦痛から遠ざかりたい目をつぶっていたいという本能的な反応も引き起こす。それに対してポジティブな写真を見た人は、近づいて関わり合いを持ちたくなる。健やかで幸せそうな人の顔を見ると、回復へ向かっていく様子が想像しやすいから、助けたいという意欲も湧いてくる。
また、資金提供について思案している時の参加者28名の脳活動を記録した結果、成功するか否かを予測するには、側坐核の反応を調べるのが最適だということがわかった。側坐核とは喜びの感情を処理する脳の領域で、報酬を予期する信号を伝えることから「報酬中枢」とも呼ばれている。側坐核が激しく活性化したら、そのとき検討している資金要請は援助を受ける可能性が高いというわけだ。参加者の小集団において側坐核の働きを観察することは、オンライン上で何千人もの人々がどうリアクションするかを予測する最大の判断材料となり、その資金要請をどう思うか、援助したいかどうかを尋ねるよりも信頼性のある結果が得られる。
逆に、行動を抑止するには、多少の恐怖心を想起させた方が良いので、2020年3月19日の「新型コロナウイルス感染症対策の状況分析・提言」にある、「３つの条件が同時に重なった場における活動の自粛のお願い」は、危険をイメージしやすいロゴ（例えば、ハチ🐝や立入禁止看板🚧を想起する、黄色と黒色の組み合わせなど）をデザインすると良さそうです。
3つの条件が同時に重なった場における活動の自粛
1. 密閉：換気の悪い密閉空間
2. 密集：多くの人が密集
3. 密接：近距離（互いに手を伸ばしたら届く距離）での会話や発声
また、偏見にまつわる大きな社会課題のひとつは、人種差別ではないでしょうか。この人種間の偏見も、恐怖心が一因のようです。しかし、人種間の交流を進めて親しい間柄を増やし、親近感を持つと、恐怖反応を鎮めることができるようです(E. A. Phelps, et al. 2000)。
脳スキャナーに横になった白人の被験者に、黒人と白人の顔写真をつぎつぎに見せた。すると、黒人の（つまり集団外の）顔があらわれると扁桃体の活動は強くなるという結果が出た。人間は進化の歴史の中でおそらく、自分とは異なる者を不安視するメカニズムを発達させ、よそ者に対する恐怖感を伝統的に築いてきたのだ。
だがこの恐怖反応は、画面にあらわれる黒人の顔がなじみの誰かのものだったり、高い尊敬を集めている人物の顔だったりした場合、完全に払拭された。つまり、異なる民族集団に属する赤の他人の顔を見せられると恐怖の回路は発火し、作動を開始するが、その相手に対する親近感があればそうした作用を鎮めることができるのだ。
偏見の少ない脳
偏見の少ない脳を実現する第一歩は、われわれの脳のクセである認知バイアスの存在を知ることです。代表的なものでも225個あるようですが、厳選された80個を紹介します。(Iketani Y. 2016, 自分では気づかない、ココロの盲点)
曖昧性効果：不確実な選択肢を避ける
圧縮効果：最近の出来事は実際より前に、昔の出来事は実際より最近に起きたように感じる
後知恵バイアス：生じた出来事について「そうなると思った」と後付けする
アドバイス効果：他人の意見に流されてしまう
アンカリング：特定の情報から全体を判断してしまう
一貫性バイアス：「自分は昔からそうだった」と過去の記憶を歪めてまで性格や主義の一貫性を維持する
イライザ効果：ロボットやコンピュータについ「人らしさ」を仮定してしまう
インパクトバイアス：ある出来事から生じるであろう感情の起伏を大きく見積もる
おとり効果：（それ単体では無効な）選択肢が増えることで判断が変わる
外集団同質性バイアス：自分が所属するグループは個性的でバラエティ豊かだと勘違いする
確証バイアス：自分の考えに一致する情報ばかりを探してしまう
過信効果：答えに自信があったとしても案外と間違っている
カテゴリー錯誤：次元の異なる議論（そもそも論など）や、無関係な喩え話、特殊な例を持ち出して、誤った結論を導く
感情移入ギャップ：怒ったり、恋愛したりしていると、今の自分とは異なる感情にある人（や自分）の視点で考えられなくなる
観念運動：強く念じると無意識に体が動く
記憶錯誤：実際には見聞きしていないことが誤って思い出される
擬似的空間無視：視野の左半分に注意を払う
基準率錯誤：全体の統計的な傾向を無視し、特定の情報のみから判断してしまう
根本的な帰属の誤り：他人がとった行動の理由は、その人の置かれた状況や環境よりも、当人の性格にあると考える
偽薬効果：効果があると信じていると実際に効果が現れる
クラスター錯覚：同じことが立て続けに起ると何らかの傾向や流れがあると信じてしまう
言語隠蔽効果：他人に説明すると記憶の細部が不正確になる
公正世界仮説：（世界は公正にできているから）失敗も成功も自ら招いたものだと因果応報や自己責任を重視する
コントロール幻想：自分の影響力を過信する
錯誤相関：関係がないものごとにも関連性を見出してしまう
サンクコスト効果：（無駄だとわかってもなお）これまでの努力や投資を回収しようとする
自我消耗：疲労していると自制心やモラルが低下する
色彩心理効果：色使いによって印象や成績が変わる
刺激等価性対象律：「逆も真なり」と思ってしまう
自己知覚：自分がとった行動から自分の感情を推測する
自己ハーディング：一度下した決断が、自分の次の行動を縛り、考えなしに習慣化してゆく
自己奉仕バイアス：成功したときには自分の手柄だと思い込み、失敗したときは自分に責任がないと思う
持続時間の無視：つらい体験や楽しい体験を評価するとき、感情の強度に気を取られ、その感情がどのくらい長く続くかを考慮に入れない
自由意志錯覚：自分には自由があると感じる
熟慮の悪魔：じっくり思案して出した決断ほど考えが一貫せず、またモラルに欠ける
消去抵抗：一度できた習慣はなかなか消えない
少数の法則：少数のサンプルの調査結果からでも「一般則」を導いてしまう
情報バイアス：知ったからといって何も変わらない情報であっても知りたくなる傾向
情報フレーミング：同じ情報であっても説明の仕方によって異なって見える
省略バイアス：手を打たなかったことによって生じた害より、何かをしたために生じた害のほうが、悪であると感じる
上流階級バイアス：社会的地位の高い人ほどモラルに欠ける行動をとる
シロクマ抑制目録：考えないように努力するとかえって記憶に溜まってしまう
人格同一性効果：自分の人格を保守するような行動をとる
ジンクピリチオン効果：チンプンカンプンでも専門用語があるだけで説得力が高まる
信念バイアス：結論がもっともらしければ、そこに至った前提やロジックも正しいだろうと感じる
ステレオタイプ脅威：集団に属する人が、その集団の傾向や特徴を意識することで、その方向へと実際に性質や能力が変化していく
正常性バイアス：非常事態への対応を避けたがる
セルフ・ハンディキャッピング：無関係な理由を設けて全力を出さない
ゼロリスクバイアス：100あるリスクを10に減らすよりも、1のリスクを0にするほうを好む
選択肢過多効果：選択肢が多すぎると、選択する気力が落ちる
選択盲：自分で選択したものでも、知らぬ間にすり替わると、変化に気づかない
ダニング＝クルーガー効果：無能な人ほど（無能がゆえに自分の無能さに気づかず）自己を高く評価する
単純接触効果：見慣れているものに好感をいだく
知識の呪縛：いったん知ってしまうと、知らない人の発想でものごとを考えられない
ツァイガルニク効果：やり終えた仕事は忘れてしまう
テスティング効果：受動的な反復学習より、頻繁にテストを受けるほうが、記憶が強化される
伝染効果：成績（や気分）が周囲の雰囲気に引きづられる
内発的動機づけ：他人から指示されなくても沸き上がるやる気
認知的不協和：自分の行動に矛盾があるときに心理的態度を変更する
バーナム効果：多くの人に当てはまる漠然とした記述でも、自分の性格を的確に言い当てられているように感じてしまう
バイアスの盲点：自分は偏見が少ないと思う偏見
パレイドリア：ランダムな模様や音声に何らかの意味を見出してしまう
ハロー効果：特定の利点や欠点に目が行き、全体の印象がそれに引きずられてしまう
判断ヒューリスティック：特定の判断基準のみで全体を判断してしまう
バンドワゴン効果：周囲の意見や流行に影響されがち
ピグマリオン効果：期待された通りに成果を出す
非対称な洞察の錯覚：私のことは誰も理解してくれないが、自分は相手をよく理解していると感じる
プライミング効果：直前に見聞きした情報によって、別のものごとを思い出しやすくなったり、思い出しにくくなったりする
ブラックスワン理論：ありえないことだと勝手に想定して対応を避けてきたがために、実際に自体が生じると慌てふためる
フレーミング効果：同じ情報であっても置かれた状況によって判断が変わる
プロスペクト理論：不確実な選択に対しておこなう決断が、損得や金額によって変わる
平均以上効果：車の運転などの日常的な能力について「自分は並以上だ」と思う
変化バイアス：以前の自分を（実際よりも）劣っていたと思う
保有効果：入手したものに愛着を感じ、手放したくなくなる
モラル正当化効果：良い行動をとった直後は「次は少しくらい」と逆にモラルに欠ける行動をとる
ラベリング理論：与えられた名称によって判断や行動が影響される
リアクタンス：強制されるとつい反抗したくなる
処理の流暢性：理解しやすいほうを「正しい」と感じる
ルサンチマン：弱者ほど偏屈で嫉妬深い
歴史の終わり錯覚：過去の変化に比べ将来の変化を小さく見積もる
連言錯誤：全般の情報よりも、特定の情報に注意が行き、それによって全体の判断が歪む
・・・きっと、この厳選された80個の概要すら、多くの読者の方は読み飛ばしていることでしょう。そして、仮に80個を記憶できたとしても、日常のできごとに各バイアス名をラベリングすることは至難の業だとは思います。(僕も記憶できる自信ないです笑)
ちなみに、偏った見方のすべてが、決して悪ではないようです。どちらかと言うと、ネガティブ過ぎる偏見が不幸の元になります。何事もバランスが大切で、豊かな人生を送りたければ、ネガティブな気持ち1つ感じるごとに、ポジティブな気持ちを3つ感じると良いようです(B. Fredrickson, 2009, ポジティブな人だけがうまくいく3:1の法則)。
独自の基準で被験者を「幸福な人」と「幸福でない人」に分けた後、全員にこれから1ヶ月間、ある安全なウェブサイトに毎晩ログインするように指示した。被験者はログイン後、その24時間以前に経験した感情の種類と回数を決まった書式に記入する。経験したポジティブな感情とネガティブな感情の数は1ヶ月後にそれぞれ合計され、ポジティブな感情の合計をネガティブな感情の合計で割った「ポジティビティ比」が算出される。
「幸福な人」と「幸福でない人」とのポジティビティ比には、大きな差があった。幸福な人が3.3だったのに対し、幸福でない人は2.2にとどまったのだ。
ネガティブな偏見を取り除くアプローチは、うつ病や不安症などを治療する領域で研究が進んでいるようです。治療法は、薬物治療以外だと、大きく2種類あるようです。
・意識レベル：カウンセリング療法や認知行動療法 (CBT - Cognitive Behavioral Therapy)。患者の意識レベルで作用する非常に複雑な心理学的介入であり、何らかのガイドラインや方策を患者に提示することで、思考パターンや行動形式を変えようと試みる。
・無意識レベル：認知バイアス修正法 (CBM - Cognitive Bias Modification)。ものごとを否定的に解釈したりネガティブなものに注意を向けたりしがちな基本的傾向を再教育する。患者の意識下で作用しながら、本人が気づかないうちに脳に変化をもたらす。
例えば、マインドフルネス認知療法は、抑うつの再発を防ぐのに有効なようです。(Z. V. Segal, et al. 2002, マインドフルネス認知療法)
抑うつの再発経験がある18才から65才までの患者計145人を集めて調査を行った。被験者はさまざまな社会的階級から抽出された。被験者のおよそ半分は通常の治療に加えてマインドフルネス療法を受け、残る半分の被験者は標準的な治療のみを受けた。
実験の結果、マインドフルネスストレス低減法を受けた被験者グループは対称群と比べ、抑うつの再発率が半分にとどまったことが分かった。過去に3度以上深刻な再発経験がある人々には、とりわけ大きな効果が見られた。
このマインドフルネス瞑想法により、不安などの感情を制御する脳の部分に変化が起きるようです(Britta K. H. et al. 2011)。
16人の被験者が、カバット・ジンの開発した8週間のマインドフルネスストレス低減プログラムに参加し、受講の前後にMRIで脳のスキャンを受けた。
プログラムを受講しなかった対象群と比較すると、瞑想を行った被験者の脳スキャンの結果からは、感情のコントロールを助けるいくつかの重要な領域が高密度になっている（つまり、ニューロンが増加している）ことが分かった。また、このプログラムを受けるうちストレスが大幅に減じたと報告した人々は、扁桃体の密度が低くなっていることも分かった。
マインドフルネスストレス低減法は、恐怖の中枢を物理的に小さくすると同時に、抑制の中枢を大きくしていたのだ。
一方、認知バイアス修正法は、コンピュータを使った簡単なテクニックで、心の中に潜む無自覚なバイアスを修正できるようです(C. MacLeod, et al. 2002)。
認知バイアスの修正を受ける患者はコンピュータの前に座り、15分から20分のプログラムを1日1回、週に数度行う。危険な認知バイアスを修正したいとき、典型的に用いられるのは次のような方法だ。
まず、患者の前に置かれたコンピュータの画面に2つの写真もしくは2つの言葉を映し出す。2つの写真（もしくは2つの言葉）の片方はネガティブなもので、もう片方は穏やかなものだ。例えば、PTSDを患った兵士の場合、画面には、こちらをまっすぐ向いた銃の写真と、机の上に置かれた鉛筆の写真があらわれる。PTSDの兵士は本能的に、自分を狙っている銃の写真に視線を向け、その結果、「世界は危険な場所だ」という思いをさらに膨らませてしまう。
そこで、コンピュータの画面に穏やかな写真（もしくは言葉）が浮かんで消えると、その場所には必ず小さな印があらわれる。被験者の兵士は、この印をつねに追いかけなければならない。これを何百回と繰り返すうち、恐怖を誘う画像に強く引き寄せられていた兵士の関心は、もっと穏やかなイメージに自然に向かうように再教育されていく。
このように認知バイアスの特性を知った上で、それを上手く回避したり、抑制したりすれば、脳の偏見が少なくなるでしょう。しかし、あらゆる認知バイアスを完全に払拭するのは非常に困難です。
意外かもしれませんが、認知能力が優れている人ほど、情報を合理化して都合良く解釈し、自分の意見に合わせてデータを歪めやすいようなので、常に注意が必要です(D.M. Kahan, et al. 2013)。
アメリカ全土から集められた1,111人の参加者が、オンライン上で課題を行った。彼らの数学の能力や論理的思考を測るため、まずは一連の標準テストが行われた。
その後、2種類のデータ群のうち1つが、「新しい皮膚発疹用のスキンクリームの効能についての研究結果」と称して参加者に提示される。参加者はそのデータをもとに、発疹用のスキンクリームが患者の肌を改善させているか悪化させているか、判断するように求められる。この問題を解くためには数学の素養が必要で、最初の数学テストで高い点数を取った参加者は、スキンクリームのデータ分析も首尾よく行った。
2つ目のデータ群は、いくつかの都市での犯罪統計をまとめたものだ。参加者はデータを検証して、法律が犯罪を増加させるか減少させるかを判断しなくてはならない。
実際には、スキンクリームにも銃規制にも、まったく同じデータが使われている。使用された数字も並び方も、すべて同一だ。それなのに参加者は、銃規制よりも新しいスキンクリームのデータとして数字が提示された時の方が、正しい分析を行った。
調査に参加した人たちは、新しいクリームの効果には大した興味がないから、計算力を活かして注意深くデータを分析し、合理的に問題に取り組む。しかし、多くの参加者は銃規制に対して熱い思いを持っており、その情熱が客観的なデータ分析を妨げてしまう。さらに興味深いことに、数学に強かった分析的思考の持ち主は、銃規制が犯罪を減少させるかという問いに、最も正確に答えることができなかったのだ。
偏見の少ないAI
偏見の少ないAIを開発する取り組みもあります。
例えば、ファクトチェックを自動化するAIの開発が、政治関係の領域で進んでいます。ファクトチェックAIは大きく3つの機能で構成されます(Lucas G. 2018)。
1. 識別：政治的言説に関するデータを逐次収集して、その中から検証する必要性が高いものをアルゴリズムによって識別
2. 検証：選別された言説を過去のファクトチェック済みのデータと照合し、虚偽情報を見分けるようにトレーニングしたAIを使って、それらの言説の正確さを評価
3. 訂正：偽ニュースかどうかの判定結果と関連情報を付加して表示
日本のファクトチェック・イニシアティブでは、ニュース配信を手がけるスマートニュースと東北大学の研究グループが中心となって、ファクトチェックを支援する技術を開発しているようです。(ファクトチェックの技術支援プロジェクト)
ファクトチェックの対象となる疑義言説を自動的に捕捉するためのシステムの開発を2017年秋からスタートし、2018年9月から運用を開始している。
このシステムは、日本報道検証機構が培ってきた誤報を検知するノウハウと、東北大学大学院乾・岡崎研究室が行った東日本大震災におけるTwitter上の誤情報拡散・是正プロセスを自然言語処理で検知するための研究がベースになっている。
また、画像認識AIの領域でも、偏見を取り除く取り組みがされています。画像認識AIの学習データとして、ImageNetという1,400万件の画像が登録されたデータベースがあり、自律走行車から顔認識まで幅広く利用されています。その中の人物のラベリングとして、侮辱的とみなされるカテゴリーがあったため、2019年1月に多くの画像が除外されたようです。
なお、Googleは、先月の2020年2月、画像認識AIによる性別の判定をやめました。見た目では性別を推測できず、不公平なバイアスの作成や強化を避ける必要があると判断したようです。
たとえ、社会や脳の偏見が少なくなったとしても、少しでも偏見が存在する限り、AIはその偏見を学習してしまう可能性があります。
AIの偏見を取り除く活動は素晴らしいです。しかし、完全に偏見のないAIを望む社会の裏には、AIは人間よりも優れた神のような存在であるべきという認知バイアスがあると思います。それは一歩間違うと危うい思想でもあるので、AIを信頼しつつ疑う姿勢が大切でしょう。
偏見のない社会・脳・AIに向けて
前回のnoteでは、経験に学ぶだけでは世界を1mmくらいしか前進させられないので、歴史に学びました。
今回は、100kmという地上から宇宙までの距離ほど「現状を改善する」ことを目指しましたが、次回は、380,000kmという地球から月までの距離を超えるような「未来を創る」アイデアを考えます。
今回のnoteに興味を持ち、より詳しく学びたい方は、下記の書籍や記事をご参考ください。
いただいたサポートは、note執筆の調査費等に利用させていただきます