思考メモ）憲法とAIとあたらしい貧困

5月3日は日本国憲法の日。

ということで、憲法にまつわる本を読んでみようかなと思って自分の本棚を見渡してみたけど、さほど憲法に関する本がない。わりとないもんなんだな、まあいいかと別の本を手にとってパラパラめくると「AIと憲法」という章が目にとびこんできた。

動物と機械から離れて―AIが変える世界と人間の未来―

憲法学者の山本龍彦さんの『AIと憲法』が引用されている。憲法とは、「前近代的な身分制度を否定し、個人を尊重するという秩序をつくったルール」であると。だから、AIと憲法は矛盾すると書かれている。

実際、日弁連のサイトでは憲法とは？のページで「憲法は、国民の権利・自由を守るために、国がやってはいけないこと（またはやるべきこと）について国民が定めた決まりです。」とある。国民の権利・自由を守ることがトップに置かれていて、さらに国が暴走しないことを重要視したものになっているんだなあ、とおもう。

つまり、AIがビックデータを元に人々を選別することにより、集団バイアスがかかってしまって、過去のデータをAIが学習することで個人が尊重されない判断がAIによってくだされる可能性があると書かれている。

たとえば、AIが個人をスコアリングした場合に、そのスコアリングによって新たな身分制度が生まれる可能性があるという。ビックデータを元にした場合、生まれた地域や親の債務など、自分には変えることができない要因で低いソーシャルスコアがでてしまい、賃貸を借りられないとかクレジットカードの審査が下りないとかそういうことが起こる可能性がある。実際に、中国のアリババグループの芝麻信用（Zhima Credit）では同様のことが起きている。

そしてその評価プロセスはどのようにそうなっているのかわかりづらくなりがちで、仮に低いスコアとなった個人が名誉挽回しようとしてもどうすれば挽回できるのか不明確である。

これを、あらたな貧困のループとして「バーチャルスラム」と呼ばれているそうだ。このあたりの議論は、このデロイトトーマツの記事がとてもわかりやすかった。この記事には以下のように書かれている。

G20加入国を対象に、「AIスコアリング浸透後（2030年と仮定）における『貧困』人口」から「現状における『貧困』人口」を差し引く形で試算を行った。ここで言う「貧困」とは、既に述べた通り、金融・賃貸・雇用・結婚の各分野で平均的な社会的利益を享受する機会を得られない（＝審査に通らず、弾かれてしまう）状態を指すものとする。試算の結果、G20では3.4億人以上（最大では5.4億人）が「デジタル貧困」、つまりバーチャル・スラムが現実化した場合に新たに貧困に陥りうる層であることが分かった。

AI時代の新たな貧困—「バーチャル・スラム」とは｜ストラテジー｜Deloitte Japan

GDPR（EUによる一般データ保護規則）は、こうしたバーチャルスラム化への懸念もあいまった規則であるという。

将来的に、NPOがこういったデジタル貧困／バーチャルスラムに属する最大5.4億人にアプローチする時代がくるだろうか？そして、そのスコアリングはやはり資本主義経済の文脈で行われるのだろうか？（ビックデータを元に過去実績がベースとなるのであれば、やはり資本主義文脈が持続するような気がする）