オンラインシンポジウム「AIと差別」を聞いた

写真は特に内容と関係のない、中野のCafe nota novaで先日飲んで美味しかったスペシャリティコーヒー。

今日はTwitterで回ってきた以下のイベントに参加した。

オンラインシンポジウム　「ＡＩと差別」を開催します

がっつり平日にやっているイベントなんだけど、Zoomを用いたオンラインシンポジウムということで、気軽に参加することができた。もし仮にこれがオフラインイベントだとすると、テーマ的に全く仕事に無関係かと言うとそうじゃないけど、わざわざ午後いっぱいの時間を使って出かけるのも、手持ちのタスクやら何やらで優先度が低いなという感じだったので、こういうオンラインシンポジウムという形はありがたいなと思っていた。

そもそも私はどういう関心なのかというと、ソフトウェア開発者向けにプライバシーやダイバーシティなど、人間を扱うがゆえに考慮しなくてはならない知見を共有する企画ができないかとはずっと思っていたのと、そもそもこういう学際的で、ソフトウェア開発の周辺的なトピックが好きだというのもありで。

話半分、仕事半分みたいな感じで、聞き漏らしたところもたくさんあるので、聴講メモという形では共有しないけれど、印象に残ったところだけ。

まず、Zoomに入ったとき、普段の画面と違って他の参加者の姿が見えないので「何か間違ったんじゃないか」とも思ったけれども、ミーティングじゃなくてウェビナーのモードがあるみたい。

最初、九州大学で情報法をされている成原慧先生が1時間講演をして、その後、コメンテーターの東京理科大学 堀田義太郎先生、東京大学 明戸隆浩先生がそれぞれコメントをして、最後に参加者からの質問を受け付ける、という流れで進んでいった。

まずAIとはどう定義されているものかの説明のなかで、「今までのシステムは意図されたとおりに動くものだが、AIはデータからが学習、利用していく過程を通じて出力が変化する機能を有するソフトウェア」とあった。つまり、AIだと、開発者がソフトウェアのふるまいを予見したり制御したりすることが困難になるということである。

なので、意図せずAIが差別的な判断をしてしまうこともありうるし、その原因や責任の所在もいろいろなのだと。

原因としていくつか挙げられていたが、AIによる差別の原因が開発者にある場合、開発者が意図的に差別的なアルゴリズムを設計するパターンは少ないが、例えば、アルゴリズム設計者が、男性が多い職場にいるため、女性のことを考慮できず、意図せず女性を差別的に扱ったAIができてしまう、みたいなことが起こりうるとのこと。なので、先進的な企業は、AI開発者に女性を採用するなど、ダイバーシティを重視する流れにもなっているらしい。

差別ができてしまう原因として、学習されるデータについても厚めに語られていた。多様なコミュニティのデータが反映されていない、たとえば、ハリケーン被害の救助の際、Twitterの投稿件数を根拠に優先度を決めていたが、本当に優先度が高い人達はそもそもTwitterができていないとか。

ほか、既存のバイアスをAIが再生産している、ということも指摘されていた。例えば、女性の医師が少ないので、医師の適性を測るAIを作ろうと思ったら、そのことを考慮しないと男性に適正があるとAIが判断してしまうのだ。

その後のディスカッションで、高輪ゲートウェイ駅の「AIさくらさん」の話題にもなった。AIにセクハラ的発言をしようが「AIが傷つくわけじゃないでしょ」という意見もあるかもしれないが、偏った女性イメージが拡散されるという意味で問題がある。これらの差別に無自覚でいると、AIが、現実世界の差別を再生産どころか増幅しかねないなか、本来はAIが差別をなくす方向にあるべきなのに（そうできうるはずなのに）、バイアスを助長してしまうのがよくなかったというのを聞いてなるほどと思った。

その他、AIによる差別をなくすために、属性を排除したデータを用いようという流れがきているが、実は属性を考慮し、あるいみマイノリティーを優遇するような形で設計していく必要があると論じられた

本当にこれはAIの開発者だけで進めていくのが難しく、単にできたあとのチェックだけではなく、開発・設計の段階から、法学や倫理など文系の研究者とともに研究開発をしていく必要性も語られた。

個人的に、シンポジウムで紹介されていた参考文献などを見ると、ここでも「アーキテクチャ」という用語がばんばん説明なしにでているので（もちろん社会学でよく使われているしなんとなく意味するところは理解しているけど）、建築、ソフトウェア、社会や法律、あたりが横断的に論じられたらめちゃくちゃ強いな〜と思ったりなどした。とはいえ研究者としてやっていける強度は私にはもうないと思うので、ソフトウェア屋さんに向けて話せればいいかな……。

個人的に怖いと思ったのが、AIはその人の「属性」で判断する、すなわち属する集団にもどづく差別が行われるということで、前近代社会における身分差別に逆戻りするのではないかという指摘があった。これをバーチャルスラムという。私自身が、属性でいうと本当にビハインドなところから自分でチャンスを掴んでここまできた自負があるので、こういうチャンスが閉ざされていたり、道がないものだと思いこんでしまうリスク、分断や格差が、より助長されたら嫌だなあと思うと同時に、テクノロジーの立場から、こういう問題に、私も何かできることがあるのかもしれないな、と思ったりした。

なかなかしんどい家庭に生まれてきて、再生産から脱して行ったわけなのだが、自分のバックグラウンド的に、何かできることがあればいいけど、じゃあ草の根的に貧困家庭に教育をほどこす取り組みがしたいかと言われたら、なんか別にそういうのがしたいわけじゃない。でももう少し全体的なところで、自分の原体験的になにかいうことができるのかもしれない、なんて、ちょっと思ったり。具体的でミニマムなアクションとしては、こういう「AIと差別」的な企画を自分の仕事でもつくること、とかですかね。