見出し画像

女性不在のテクノロジーFembot

Jun Nakama

私たちの社会システムにはバイアスがある。常に存在しているが、長い間受け入れられ、確立されたプロセスの中で不可視にされている。
目新しいことではないが、人工知能（AI）の女性化はSF映画で描かれ続けてきた。このことは、Fembot（女性ロボット）として、ジェンダーや表象論で扱われてきた。
そして近年では、SFを現実に実装するテクノロジー企業のサービスにもFembot的なものが現れてきた。
企業は性差別という悪気なく、人々が慣れ親しみやすく「感情」を豊かに表現するから、女性化はAIの人間化に貢献すると考えている。
言いたいことはわかるが、相手の気持ちや望みなどをいち早く読み取って仕える存在が、なぜ女性で固定されているのか？女性的なものがテクノロジーで作られているのに、なぜ女性が「他者化」されているのか。
テクノロジーの領域で、女性を「従順で受動的なOS」としてインストールし、ジェンダー化することに問題提起する事例をあげて考えてみた。

問題視されているAIとジェンダー

ユネスコ（国連教育科学文化機関）のジェンダーバランスに関する研究グループ「EQUALS」が2019年に発表した報告書「I’d blush if I could（赤面できたらしています）」では、Appleの「Siri」、Amazonの「Alexa」、Microsoftの「Cortana」などのAIアシスタントの大半は、名前から声、性格に至るまで、女性的とみなされるように設計されていることを発表した。

ユネスコの調査のタイトル「I’d blush if I could（赤面できたらしています）」は、ユーザーから「ビッチ」と呼ばれたときに答えるようにプログラムされていた言葉。

多くの人々が「従順で、常に礼儀正しい」女性の声のアシスタントに命令することに慣れてしまっていることが問題だとしている。

日本でも「AIとジェンダー」で議論が起きている。2020年3月に高輪新駅に設置されたサイネージ上の表示されたAIキャラクター「さくらさん」がセクハラ発言を受け流す様子が報じられ炎上した。
この件を書いた記者によるAIとジェンダーの講座動画では、ユネスコの問題提起の内容や、SF映画でのAIの使われ方、採用で使用された不均衡のあるデータ活用など。
分かりやすく紹介されてる動画なのでぜひ。


AIへの批判

GoogleArtificial Intelligence（倫理的人工知能）チームの共同リーダーだったティムニット・ゲブル（Timnit Gebru）氏の解雇が話題になった。同氏は女性の黒人リーダーとして顔認識にのバイアスの危険性について研究し、企業の多様性の欠如を指摘してきた。
彼女の解雇に対してGoogle従業員ら1000人超が支持を表明し、「グリーンウォッシュ」と同様に「エシックスウォッシュ」つまり倫理上のごまかしだという指摘もあった。


Gender Shadesは大手テック企業の商用AIシステムで、女性や肌の色が濃い人種の判定を大幅に間違えていることを明らかにしたプロジェクト。


Kate Crawfordはマイクロソフトの研究員でありながら著書「Atlas of AI」ではAIを警戒した論考を展開して話題になっている。
AIは、偏見や不平等の歴史の上に構築されるだけでなく、積極的に構築するものだという。データの収集には歴史がつきもので、切り離すことはできない。収集した個人データ、人種、性、階級などが含まれており、構造的な不平等の入ったデータを「活用」するシステムが積極的に偏見や不平等を構築するという。
現状は、コンピュータサイエンスとエンジニアリングを教える大学などの場で、AI倫理に通じるような倫理審査も受けないし、システムが社会に影響を与えることのトレーニングもない。日本での翻訳を期待。


データフェミニズム

データサイエンスは権力の一形態となった。データサイエンスは、不正を暴き、健康状態を改善し、政府を倒すために使われてきた。一方で、差別や警察、監視にも利用されている。このような善の可能性と悪の可能性の両方がある中で問いが生まれる。

データサイエンスは誰のためのものか？
誰のためのデータサイエンスなのか？
誰の利益のためのデータサイエンスなのか？

Catherine D'IgnazioとLauren Kleinの著書「Data Feminism」は注目を集めている。
データサイエンスの世界を支配しているのは技術力を持つ高学歴で白人のシスジェンダーの男性的な価値観。どれだけ「ダイバーシティ＆インクルージョン」を掲げる有名企業でも、履歴書をAIで選別と自社に男性の割合が多いため、女性に機会が与えられなかったり、アメリカでコンピュータサイエンスの学位を取得した女性は2011年でわずか26％。過去の1985年の37％よりも低下している。
「Data Feminism」はフェミニズムが社会正義の実現に向けて、どのように役立つのか、データサイエンティストや、データサイエンスの分野を志すフェミニストに戦略を提供している。日本での翻訳を期待。（2回目）


スマートワイフ論

メディアとコミュニケーションの研究をするJenny Kennedyと、デジタル社会学者Yolande Strengersの発表した「スマートワイフ」論は、家事労働の多くをジェンダー化された技術のスマートワイフ（ロボット掃除機、スロークッカー、スマートスピーカー）に委託するようになった現在を考察している。

家庭内での女性の役割、妻の役割から、ペットと相手のなど機械が対応できる範囲も増えている。
テクノロジーが、料理、掃除、介護、主婦業、仲間作り、性的労働を担うようになっても、「女性」の声や見た目が使われるのかは社会が役割を固定していることがわかる。
スマートワイフ論では、現代のテクノロジーが家庭における伝統的な妻の役割を演じているのは、1950年代の主婦像に似ていると指摘している。なぜなら、私たちがロボットやAIアシスタントにやらせている大半のことは、伝統的な家庭内の女性のケア労働だからだという。日本での翻訳を期待。（3回目）


映画の中のFembot（女性ロボット）

映画の中ではテクノユートピアな存在や、男性のファンタジーの象徴として、時代をうつす複雑な存在として、描かれる「女性」というシンボルとカテゴリー。

これまであげたAIとジェンダーにまつわる話は、「女性」のロボットのイメージが、いつ作られたのか、誰が作ったのか、そしてどのように受け取られて社会に浸透したのか無関係ではないと思っている。
Fembot（またはGynoid）といわれる「女性」のロボットは、過剰にセクシーで脅威として映画の中で客体化され、ジェンダーや表象の観点で考察されてきた。
現代のテクノロジー企業で開発されるものに少なからず影響を与える装置であったかも知れない。実際にAmazonのジェフ・ベゾスはAlexaのインスピレーションが『スタートレック』からきていると明かしている。

AIアシスタントとFembotの関係はじょじょに語られるようになってきた。（下記は5年以上前の記事）

Fembotが登場する代表的なものは以下の通り。

『メトロポリス（1927）』
フリッツ・ラングが100年後のディストピア未来都市を描いたモノクロサイレント映画。初期のFembotといえるアンドロイドのヘルが登場。

『ブレードランナー（1982）』
人工的に生成された有機体レプリカントとして、レイチェル、ゾーラ、プリスが登場する。『ブレードランナー2049』でもホログラム型のジョイが登場する。

『オースティン・パワーズ（1997）』
Fembotという言葉は、テクノロジーに組み込まれた女性のジェンダー化を語るときと、スパイコメディ映画に登場する60年代風の金髪のキラーロボットでも使われている。

『her/世界でひとつの彼女（2013）』
人工知能OSのサマンサに妻と別居中のセオドアが恋をする。この映画で身体のない声だけの存在のサマンサでも「女性らしさ」があることがFembot論で必ず触れられる。

『エクス・マキナ（2015）』
テクノロジー企業によって作られた女性型アンドロイドAvaが主人公。

最近では、アリアナ・グランデがMVで『オースティン・パワーズ』風のFembotに扮している。


もっとFembotを知りたい場合は、こちらのFembotWiki.comの映画リストを。

SFとテクノロジー産業は切ってもきれない関係で、多くのインターフェイスはSFからインスピレーションを得ている。


ジェンダーニュートラルを学ぶ意義

機械の音声やキャラクターに「人間性」を加える際、冒頭であげたようにジェンダーの勝手な固定化した観念が多様化する人々から反発をされてしまう。最近ではバイアスへの批判を受けて、二元論的なジェンダー表現を変える取組も増えている。
全てジェンダーニュートラルにすれば解決するわけでもなく、テクノロジー業界の性差別の問題から目を逸らさず取り組む必要がある。

Appleは2019年のユネスコ（国連教育科学文化機関）の批判を受けてか、音声の表記を『「男性」「女性」から「声1」「声2」』に変更した。


絵文字も、男女に止まらず、定期的に多様なジェンダー表現が追加されてきている。

初のジェンダー・ニュートラル・ボイスであるAIの「Q」の立ち上げに携わったVirtue Northern Europeのシニア・クリエイティブ・ディレクター、ライアン・シャーマンは、次のように述べている。

「Z世代は、購入する企業の透明性の向上を求めている。その考え方を自分の文化に取り入れようとする真摯な努力をせずに、ジェンダーニュートラルから利益を得ようしてもバレる。この分野に参入するには、LGBTQやジェンダーニュートラルな人たちを雇用し、一緒に働き、制作する努力をすることが第一歩」と述べている。
The future is fluid: is the age of gender neutral marketing upon us?


女性不在のテクノロジー 

女性の実態を規範にはめ込む奇妙なFembot的テクノロジーが蔓延しているのは、作る側に女性が少ないことが明確だ。

キャロライン・クリアド=ペレスの著書『存在しない女たち』では、政治、医療、都市計画などあらゆるところで、女性が「不在」にされてきたか、圧倒的なデータ量とエビデンスで明らかにしている。
AIをはじめテクノロジーをより多様なかたちで活用するためには、全てを脱ジェンダー化する必要はなく、多様な立場を白紙に戻す必要もない。

これからの未来を作る上で、不必要なジェンダー化を避けるためには、過去に問題提起されてきたことを知れば避けられることもある。

Photo by Karina Tes on Unsplash


サポートされたらペヤング買いだめします