高輪ゲートウェイ駅のAIはどうしてtwitterで燃えたのか？
はじめまして、まさかこんなnoteを書くなんて。件の炎上で、納得のいく説がtwitterで流れてこなかったものだから、筆どころかnoteをとってしまいました。
あくまで主観的な考察です。
発端
2020年3月4日、高輪ゲートウェイ駅が開業した。山手線の新駅ということで、名前や駅の看板に採用された書体も含めて注目度は高かったです。特に五輪を控えているため、外国人観光客に対応するためのAIサイネージに触れている記事がボチボチあったと記憶しています。
そんななか、発端は東洋経済オンラインのこの記事。
ここから、燃えた原因の本文を引用します。
改札から外に出ると、AIサイネージが2台置かれていた。男性駅員タイプと女性駅員タイプの2種類で、乗り換え案内や周辺の飲食店情報など声に出して質問すると答えてくれる。
女性駅員タイプのAIサイネージ「渋谷さくら」（記者撮影）
男性タイプを開発したのはJR東日本情報システムで、駅構内や周辺の案内は的確だが、いたってまじめな印象。ところが女性タイプはアニメキャラクターで会話の最中に髪の毛を触る仕草をするなど、かなり凝った作りだ。
このキャラには「渋谷さくら」という名前が付けられており、年齢、住所、職業なども質問すると答えてくれる。会話に夢中になって後ろに行列ができたりしないかと心配になるほどのレベルだ。日・英・中・韓の4カ国語に対応しているので、外国人もクールジャパンの底力を目の当たりにするに違いない。
これを読んだtwitterユーザーが批判し始めて火が着いた（と私の観測では）と思います。どこら辺がどう燃えているのかは以下の記事を読んでほしいです。
燃えた点
✅ 令和に開業する新駅なのに、女性型AIと男性型AIで対応内容が違う
✅ 女性型AIがセクハラ該当しそうな内容に対して素直に答えてしまっている
✅ 男性型は真面目、女性型は接客中に髪を触るなど、ジェンダーバイアスがかかったAIを採用したかのように読み取れる記事が出された。
おおよそ、こんなところでしょうか。
ここまでなら皆さんあっさりお分かりかと思います。
また漫画絵だから（似非等々解釈はありますが）フェミニストが騒いでいるのか、とうんざりしている人もいるでしょう。格好は（露出が低いという点で）クリアしたのに、もう漫画絵というだけでフェミは騒ぎ、全て焼こうというのかと。
✅ 果たしてそれは正しい分析なのか？
✅ マーケティング的に漫画絵はNGなのか？
✅ AIさくらさんはどうして今頃燃えたのか
そういうことに対して考察をしていきたいと思っています。
話題のAIさくらさんとは
まず、今回話題になったAIさくらさんはティファナが運営する対人用AIです。接客や社内の問い合わせなど、意外と多彩に使えるようです。
AIにとって、見た目は単なるガワにしか過ぎませんので、サービスの対象ごとに2系統が用意されています。
・インバウンド向けに萌えキャラっぽい女性型3タイプ
・一般企業向けに男性型1タイプ、女性型2タイプ
実はこのAIさくらさん2018年12月から東京駅で稼働しています。
AIさくらさん自体はもうすでに各所で利用されており、その間、炎上の種になるような話題は見当たりません。精々、人間の仕事を奪うかもとかそういう記事程度です。
何故今頃燃えたのか
今まで特に何の問題もなさそうだったAIさくらさんが何故、今頃燃えてしまったのか。要因は2つあると思っています。
✅ 新駅として注目度が高かったこと
✅ セクハラに対応する機能が記事になってしまったこと
コロナ騒ぎで気が立っている人も、まあまあ多いご時世だと思いますが、そこは割愛します。
twitter上では看板に採用された字体や、綺麗な西武ドームと揶揄されたホームなどから分かる通り、twitter大喜利化（twitterでバズりを目的としてコラ画像を作成したり、誇張した文面をツイートしたりして、お祭り騒ぎとなる現象）してしまうほどの注目度でした。
そんな最中に、令和時代にAIがセクハラ対応と来たら、火が着くのもやむなしです。
AIにセクハラは成立しない
まず、一つ言っておきたいのがAIに人権はないということです。ここを否定しておかないと認識がずれてしまうので。セクハラとはされた人が嫌だと感じることでセクハラになります。AIは人ではないので（2020年時点では）人権はありませんし、人格もありません。よってAIにセクハラという事案自体が成立しないのです。
じゃあなんでセクハラで燃えるのか、という点を掘り下げていきます。
一体どうして火が着いたのか
まず、一部の人が不快になっているという事実は否定しないでください。不快になっている奴はヒステリーとかフェミとか、そういうレッテルを最初に貼ってしまうのは思考を停止しています。
何度も述べていますが以下の2点が主軸と考えています。
✅ 男女の非対称性
✅ 女性型がセクハラ対応させられている
2018年から稼働しているAIさくらさんが今まで燃えていないため、見た目が原因ではないのです。見た目が云々で燃え始めたのは最近の事（宇崎ちゃん献血ポスターの件）だからだろう、という指摘は受け止めますが、見た目の問題は主軸ではないのです。
男性型AIはJR東日本情報システム製、AIさくらさんはティファナです。別の製品なので、シュールなほどキャラとUIに差が出てしまうのは、仕方がないのです。ただし、人間は見ているほど情報を得ていないので、ここに着目出来た人はどれだけいたのでしょうか。
この製品の差が、男女という対であるはず（という認識）のものにとてつもない非対称性を与えてしまったのです。そして極めつけが女性型がセクハラ対応しているというジェンダーバイアスを濃縮したような状況が発生し、火が着いたのです。
安易なセクハラ対応が招くイメージ
そもそもですが、接客業に従事する人間は誰しもがセクハラを受ける可能性を持っています。言葉においてもそうですし、態度によってもです。特に舐めてかかられやすい女性は特にその傾向が強いと感じています。
セクハラの線引きは未だ曖昧です。しかも時代によってどんどん変化していきます。ですが、そんなグラデーションの中で、これはアウトという線引きが人それぞれ違うということだけは事実です。
じゃあ心の狭い人間が怒っているのか、というとそれはあまりにも短絡的です。一つ思い出してほしいのは、このAIは会社が公に設置している備品だということです。
AIは単なるキャラクターに過ぎませんが、そのAIの対応は会社の模範的と思われる対応を行っている状態と推測されるのです。勘の良い人なら既にお分かりかと思います。模範的な対応を出来ないAIをまさか配備するとは思えませんよね。つまり、この会社は女性にセクハラを容認している会社なのだ、と広報していることになるのです。わあ、恐ろしい。
AIさくらさんが回答しているのは、単なるキャラとしてのプロフィールです。しかし、JRがサービスとして提供している備品なので、男性型AIとの合わせ技で、間違ったイメージを広報してしまっている状態になってしまいました。
JR東日本は今回の炎上をうけて、このように回答しています。
「2台は、そもそも製造元が違います。お客さまに試してもらって、利用しやすい装置を選ぶ試行導入で、たまたま置いただけです。男女のキャラをそれぞれ用意する意図はなく、結果として混在したということです」
たまたま高輪ゲートウェイ駅では男女で別の製品を提供し、記者によってプライベートな質問に答える状態になっただけなのに、まあなんという地獄。中の人たちは「え、なんで？」という状態でしょう。
そもそもJRでは実験のために各種AIを導入していますから、今回の炎上は本当に事故なのでしょう。
非対称性を解消する
男性と女性で差があったことが要因の一つなら、仮に、じゃあAIさくらさん唯一の男性型である藤原さんを起用したらどうだったのでしょう？
藤原さんも従順に答えてくれるタイプなら、ここまで炎上しなかったのかもしれません。単にキャラとして答えてくれるだけの凝ったAIです。ですが、これでは根本的なもう一つの問題は解決できません。
セクハラに対して会社としての姿勢を示す
今回の件で、従業員にはセクハラに対して教育や認識をどの程度浸透させているかはともかく、会社としての模範的な態度・発信するメッセージにおいては如何に無自覚だったのか露呈してしまいました。
会社としてのセクハラ対応は、まず以下の2点を定めなければなりません。
✅ セクハラに対して模範的な態度を定める
✅ どこまでをセクハラとするのかボーダーラインを定める
上記の結論を踏まえて、利用するAIの対応が会社の顔として相応しいのか検討する必要がありました。
セクハラ質問に対して素直に質問に答えることが効率的、それで何の問題もない業種・ブランドであれば、それはそれでいいのです。今回は公共交通機関という性質上、こういう視点が必要だったのでは、ということです。
そうは言いつつ、模範的な態度というのも実は難しくて、小児から年齢などを聞かれた場合は答えるほうが好ましいのか、それとも現在の常識を諭す方が望ましいのか、意見は様々です。
そもそもAIに性別はないし、どんな形でもいい
今回の件でブランド戦略やイメージを重んじる会社、ブランド、あるいはマーケティング系の方はヒヤッとしたのでは。安易に人型にして性別をつけてしまうことの危険性に気付いたとでも言いましょうか。
AIが人語を解すからと言って、人型である必要はないのです。いっその性別のない存在にしてしまう、または動物を起用するのも一つの手です。
某ネコ型的なAIに対して、身長は？趣味は？どこ住み？スリーサイズは？と熱心に口説いたところで、やった人間の方に色んな点でヤバい（残念な）イメージがつくだけ。平和だったかもしれません。今回の件なら、ペンギンが妥当でしょう。
今までは応答するだけで良かったAI。どうして、そのUIやUXが必要だったのか、それは最適解だったのか。AIに対して新たな課題が出来た事例だと思います。
それにしてもティファナさん、こんな記事を出していたのに皮肉すぎます。
今回の件ではJRとティファナ、双方のイメージが炎上によって毀損されてしまったので、結構深刻だと思いました。
まとめ
✅ 人型AIは男性型・女性型でサービスの提供内容を変えると危険
✅ 人型AIを導入する際は、セクハラ行為に対する対応が自社のイメージと乖離しているか確認する
✅ 別々の製品を導入する場合は、UX（ユーザー体験）が偏らないか検証する
✅ セクハラ対応に予算が割けない場合、動物型や無機物型が比較的無難
異論はいっぱいあると思いますし、実際（そうしたほうがキャッチ―だから）AIさくらの容姿で燃やそうとしている人もいるかもしれません。個人的にここがまずいんじゃないの？って思った点を、纏めてみました。
個人的には藤原さんに触れ合える場所はどこですか？どこまでプロフィールは設定されているんですか？とか諸々気になっていますし、両社とも頑張っていると思うので、こんな状態になって残念です。正直、一周まわって、あのシュールな男性型AIも気になってきました。自己紹介してくれるらしいので。
🌷使っていただいたお金は、本や、資材購入に当てられます🌹