イェシマベット・ミルナー：テクノロジーとコミュニティの力で、人種問題に取り組む（究極のチェンジメーカー #8）
Yeshimabeit “Yeshi” Milner - Data for Black Lives（アメリカ合衆国・2019年選出)
「究極のチェンジメーカー」シリーズについて
私たちアショカは世界最大の社会起業家ネットワークです。1980年創立以来、アショカ基準の社会起業家を発掘しており、2021年までに世界90カ国以上で約3,800人を「アショカ・フェロー」として選出してきました。彼らは、社会にある問題の表面的な応急処置ではなく、それらの歪みを生み出している水面下の仕組みそのものを変えています。この連載では、社会を大きく変えている、「究極のチェンジメーカー」の名にふさわしいアショカ・フェローを一人ずつ紹介していきます！
データサイエンティストであり、社会起業家でもあるイェシマベット・ミルナー（以下、イェシ）は、データ専門家や地域コミュニティのリーダーなど広く賛同を得た運動を立ち上げて主導しており、アルゴリズムの中に無意識に組み込まれている構造的な人種差別や偏見を明らかにしています。
理不尽な扱いの、その奥にある事実
イェシが人種間の公正を目指すデータアクティビズムに関心を持ったのは、中学生時代に遡ります。ある日、当時通っていたフロリダ州マイアミにある中学の技術教師に口答えをしたことで、彼女は3日間の停学処分を受けたのです。これには大変ショックを受けましたが、この体験がある発見につながりました。その後、停学処分について調べているうちに、黒人の生徒は白人の生徒に比べ4倍も停学処分を受ける可能性が高いということを発見したのです。
そしてある日、ハイチ人とアフリカ系アメリカ人が大半を占める近隣の学校で、教頭先生が14歳の少女の首を絞めるという事件が起きました。当時、自身も14歳だったイェシは、友人達が抗議活動を組織する手伝いをしました。参加した友人もほとんどが有色人種です。しかし、抗議は平和的なものであったのにも関わらず、暴動として扱われ、メディアにも取り上げられました。警察の特殊部隊であるSWATが対処のために学校に突入し、合計30人以上の学生が警棒で殴られる、またはパトカーに叩きつけられるなどして負傷、25人が逮捕されました。イェシと友人は、教育委員会の会議でこの事件や背景にある人種差別について話そうとしましたが、結局その場を立ち退かされてしまいました。そこで彼女は、学校での逮捕を目撃した市内の600人の学生を対象に調査を行い、その結果を漫画本「ありのままに伝えよう：マイアミの若者が声を上げる」（原題：Tell It Like It Is: Miami Youth Speak Out）にまとめました。この本は今日でも、全米の活動家によって使用されています。
調査では新たなバイアスを排除したデータが集められ、結果として有色人種の生徒が白人の生徒と同じことを行っても、不釣り合いな罰則を受けていたことが分かりました。そして、こうした停学や退学処分の結果、 黒人の生徒は、白人の生徒の3倍の頻度で逮捕に至る事が判明しました。
その後、彼女はブラウン大学に通い、データ収集と分析について学びました。
隠れた現実を明らかにするデータ
大学卒業後にマイアミに戻ったイェシは、大学で得たスキルを活かし、不釣り合いに高い黒人の乳児死亡率に関する調査を行いました。新生児の母親300人から収集したデータを基に、彼女は国内最大の公立病院で新生児診療を変える手助けをしたのです。これにより、同病院は小児保健プログラムを刷新し、全米から集まった新しいチームを作りました。
「データは社会変革のための強力なツールだ」とイェシは言います。「データには、物事を曖昧にする、偏見を隠す、隠蔽する、さらには欺くといった力まであります。しかし同時に、それが誰の手にあるのか、どのように使われているかによって、機能していない部分や有害なもの、成すべきことを明らかにする強力なツールにもなり得ます。データは抗議活動であり、説明責任であり、集団行動でもあります。」
2016年に彼女はデータサイエンティスト、テクノロジー専門家、そして数学者のネットワークからなるData for Black Lives（D4BL：データ・フォー・ブラックライブス）を共同設立し、コミュニティのリーダーたちや教育者、チェンジメーカーと協力して活動しています。D4BLは、白人が多いテクノロジー業界と、黒人やラテン系など有色人種の人々との架け橋となっています。
D4BLは、機械学習、統計モデリング、データ可視化などといったデータシステムが偏見に対処し、地域社会に活力を与える優れた手段になり得ると考えています。しかし、データシステムでは、有色人種のコミュニティを差別し、抑圧するバイアスを容易に暗号化もしくは開発することもできます。警察による取り締まりや裁判官による判決が、実際の被害ではなく予測されるリスクを元に判断される場合や、住宅ローンの融資を判断する際などに使われるアルゴリズムに対する懸念はよく知られています。
「社会には危険な存在を特定する方法が必要だと考えている人は多いでしょう。しかし、偏見を持った警官や裁判官を、同じような偏見を隠すだけのアルゴリズムに置き換えることでは解決になりません。もし人種差別を繰り返す可能性が僅かでもあるならば、そうしたアルゴリズムは排除するべきなのです。」
コミュニティを巻き込む
D4BLでは、コミュニティのリーダー達が知識を身に付け、地域の人々のためにデータを活用できるよう支援しています。また、一般公開されているデータは扱いづらいことも多いので、D4BLがデータサイエンティストを紹介し、より分かりやすく、使いやすい形にしてもらいます。同時に、データを収集して利用するIT企業やその他の業界にも「アルゴリズムに人種的なバイアスがある」という認識を高めてもらえるようにし、その過程で、この問題に取り組みたいデータの専門家や主要IT企業の社員をボランティアとして集め、チームを作っています。
コミュニティのリーダー、人種問題の活動家、IT業界関係者、データサイエンティスト、数学者などで構成されるD4BLのネットワークは優に4000人に達し、成長し続けています。彼らは、マサチューセッツ工科大学(MIT)で毎年開催されているD4BLのコンファレンスで顔を合わせ、オンラインでも常時つながっています。
またD4BLは、テクノロジー業界にデータの透明性を高めるよう要求し、銃の暴力、メンタルヘルス、自然災害への脆弱性など、特に有色人種のコミュニティに大きな影響を与えている問題を解決しようと努めています。
D4BLがIT業界と地域社会を巻き込んだアプローチは非常に効果的だったため、当初はワシントンDCのみであったオフィスが、現在ではアメリカ5都市に進出し、さらに今後はアメリカ国内でさらに12か所、そして3大陸4か国にも広がる予定です。D4BLは、地域をベースとして組織され、各地域の組織と技術ボランティアが世界中から集まり協力しています。
ペンシルベニア州ピッツバーグの拠点では、人種格差の原因を突き止めるために、ボランティアのデータサイエンティストが大量のデータを解析しています。例えば、アメリカの97%の都市において白人よりも黒人の妊産婦死亡率が高い点、黒人が白人に比べて刑務所に入る確率が高い点、パンデミックの中で黒人の受刑者が利用できる（または利用できない）刑務所でのサービスなどを分析するのです。D4BLでは、こうしたデータを地域で既に活動している団体に提供し、より良い政策を提唱できるよう目指しています。
コロナ禍の人種格差を可視化する
データの中に隠されたパターンを見つけ、より公平な政策への変更を促すことで地域社会の健全性を高める活動をするD4BLにとって、新型コロナウイルスは、喫緊の課題（と絶好の機会）をもたらしました。
D4BLは、黒人の新型コロナウイルス感染者数が明らかに過小報告されていることを発見したのです。これにより、黒人コミュニティへの支援は不足し、結果として高い死亡率を生み出すという格差が生じていました。イェシは次のように述べています。「2020年の4月初旬に知り合いなどネットワークの人々と話をする中で、黒人コミュニティへの不均衡な影響について知りましたが、人種別の感染者数を報告している州はほとんどありませんでした。」
イェシとD4BLは、そのような状況を変えようとキャンペーンを展開し、各都市や州の当局者やデータ担当者と協力して、各州による一般公開ウェブサイトから自動的にデータを収集する独自の新しいデータ構築ツールを立ち上げました。
そして、新型コロナウイルスの感染データを人種別に広く報告することに成功します。現在では、有色人種のコミュニティに対する新型コロナウイルスの不均衡な影響は記録されており、よく知られています。有色人種の入院率は白人の4倍であり、予後も悪いとされる事実は、データも含め、重要な政策変更をもたらしました。米国医師会と多くの州は現在、より正確な報告を行い、格差是正措置を講じています。
「Data for Black Livesは、今回のパンデミックが黒人コミュニティに与える影響を可視化することを目的とした、新型コロナウイルス追跡プロジェクトを開始しました。Milner氏が『社会のデータ化』と呼ぶものは、私たちの身の回りで起こっています。しかし、人種間格差に関するデータにアクセスし、収集する情報が全ての人々を正しく反映するものであることを保証するための戦いは続いています。」
無意識の人種差別バイアスを取り除く
世界が機械学習と人工知能の時代へと急速に移行する中で、D4BLのように科学者とコミュニティが連携する必要性はますます高まっています。
機械が人間に取って代わるとき、人間の偏見を避けることができる可能性はあります。しかし、真の進歩のためには、新しいアルゴリズムが作られる過程であれ、学習しながら構築されるマシン開発の結果であれ、偏見やバイアスが埋め込まれないようにする必要があります。
長い間問題となっている、住宅ローン融資という重要な分野を取り上げてみましょう。家の所有は、多くの家族にとって財産の礎です。そのため、住宅ローンを組めなければ、富を築く機会を閉ざしてしまうことになります。
レッドライニング（※）は50年前に禁止されましたが、偏見はいまだに残っています。2019年、住宅ローンの申し込みを断られた割合は、白人世帯がわずか7%であったのに対し、黒人世帯は16%でした。白人世帯が家を所有する割合は、黒人世帯よりも75%高いということも判明しています。
※レッドライニング (red lining)：アメリカ合衆国において、金融機関が低所得階層の黒人が居住する地域を、融資リスクが高いとして赤線で囲み、融資対象から除外するなどして差別したとされる問題
例えば融資の借り手の財産は、実際には何世代にもわたって蓄積された富かもしれないのです。このことを考慮しないと、機械学習は誤ったモデルを作ってしまう可能性があります。
D4BLでは、パターン分析からAIアルゴリズムのモニタリング方法の開発、モデルとなる住宅ローンのアルゴリズム開発まで、あらゆる分野に取り組んでいます。
イェシは次のように話しています。「私たちはさまざまな領域で活動しています。連邦政府レベルでは消費者金融保護局（CFPB）に説明責任を求め、フィンテック企業（※）とも話し合っています。また、地域社会と協力して、住宅ローンの引受に関するアルゴリズムを再考しています。」
※フィンテック(FinTech)：Finance（金融）とTechnology（技術）を組み合わせた分野のこと
D4BLは、地域の有力者から上院、連邦議会の議員に至るまで、政策問題に関わる人々にデジタルバイアスに関するトレーニングや説明会を行うなどして、地域や各州、ひいては国の政策立案に貢献しています。
社会的正義や人種問題の是正を求める戦いの中で、「パンデミックにより様々な問題が明らかになる時」と、彼女が「社会のデータ化」と呼ぶものが重なり合う今、イェシは希望を持って未来を見つめています。
「あらゆるIT関係者や様々な業界、組織、企業で働く人々がボランティアとして名乗りを上げ、私たちやパートナーの各種プロジェクトをサポートするために時間を割いてくれています。今こそ私達はこの瞬間の苦痛や痛みを、目的そして長期的な変化に変える時なのです。」
「Data for Black Livesは、コミュニティのリーダーや研究者などのステークホルダーを集めて、機械学習がいかに偏見に対抗するための強力なツールとなりうるかを考察し、あらゆる角度から対話を進める重要な場を作り出しています。加えて、機械学習システムにおける不公平さが、多くの人々、特に有色人種のコミュニティに広範囲に与えうる負の影響も実証しています。」
もっと知る
Welcome Change: Why we need data for Black Lives, with Yeshimabeit Milner
アショカの全ての活動は、共鳴してくださる方々の寄付金で実現しています。少額でもとても励みになりますので、ぜひご支援のほどよろしくお願いいたします。