「撃たれやすい顔」への引き金を止める。AIが揺さぶる人の思い込み

2019年7月8日 08:00

死角から飛んできたボールは避けようがない。直撃されて脳と心が揺さぶられる。現代美術家・長谷川愛さんのアートプロジェクトを見た時の印象をたとえると、まさにこんな感じだ。科学技術をモチーフに、人のありようを浮き彫りにする。それらの軌跡と思いを2回に分けて紹介する。

人の偏った認知を「銃」が問い返す

2018年、長谷川さんは“Alt-Bias Gun”という作品を発表した。

このプロジェクトは人の偏った認知バイアスを機械学習等で学ばせ、逆張りもしくは別のバイアスを道具に実装し「公平な社会を目指す」その是非と方法について問います。私たちは一体どのようにそれをデザインし実装してゆくべきなのでしょうか？（中略）この銃は「非武装で警察に銃殺された黒人」の過去数年のデータから殺されやすい人を学習判別をし、条件にあった場合は銃の引き金を数秒止めます。（Ai Hasegawaより）

「バイアス」に疑問

この作品が生まれる背景になったのは、2014年に留学した米国で広がっていた社会運動“Black lives matter”でした。当時、銃を持たない丸腰の黒人男性が、警察官と出会った際に問答無用で撃たれて死亡する事態が頻発していました。「黒人は武器をもっているに違いない」という警官側のバイアス（偏見）が引き起こしたものだと、黒人への暴力や人種差別の撤廃を訴える動きが強まっていました。

バイアスを持っていたのは、人だけではありませんでした。

アメリカの司法では再犯率を割り出すアルゴリズムを使っていますが、過去の判例や質問の内容によっては黒人に厳しい再犯リスクの判定が出る傾向があるとされ、「マシンバイアス」と呼ばれています。中国でも犯罪者の顔の傾向をアルゴリズムで割り出そうとする研究が実施されていました。もし実用化されたら、無実なのに顔認証システムで“犯罪者顔”と判定されて不利益を被る人が出てくるのではないか、と思いました。

“Black lives matter”の広がりなどを受け、オバマ政権（当時）は警察官にボディカメラの装着と捜査中の撮影を義務づけた。しかし、裁判に証拠として提出されたカメラ映像は数割程度にとどまり、罪に問われる警察官は少なかった。

この問題にどう向き合うか考えていたころ、黒人男性が警察官に銃で撃たれて死亡した動画をSNSで偶然目にしました。車を停められ身分証明書を求められ、IDを取り出そうとした時に銃を取り出すと思われ、銃で撃たれたのです。もし彼がIDを探している間だけでも警官の銃の引き金がロックされていたら助かっていたかもしれない。

ヒントになったのは、『PSYCHO-PASS』というアニメ作品に出てくる武器「ドミネーター」でした。

ドミネーターは人に向けると、心理状態から反社会的行動をとるかどうか感知し、その数値の度合いで殺傷力の異なる弾丸を発射します。ドミネーターが「犯罪者」と認めない場合、引き金がロックされ撃つことができません。今のテクノロジーでも強制的にバイアスを補正し、引き金をロックする技術があってもいいのでは、と考えました。

警官から撃たれて亡くなった200人の犠牲者の顔データを集めてAIに学習させ、「撃たれやすい顔」を検知するモデルを「銃」につなげました。それに近い顔の人に銃を向けたとき、「あなたは、バイアスで反射的に殺そうとしているかもしれない」とアラートを出し、３秒間引き金をロックする。

それが“Alt Bias Gun”でした。

“あやまって殺す方も殺される方もうれしくない。この不幸を止めるためにこういった道具の導入は正しいのだろうか？どこで引き金を止めるのか？引き金を止めずとも「バイアスで撃とうとしていませんか？」とアラートをだすだけでも、そこでもし効果的に死傷者の数が変わるのならばそれは公平なのだろうか？”（Ai Hasegawaより）

「正義」への問い直しが作品名を変えた

“Alt-Bias Gun”は初め“Anti-Bias Gun”と名付けていました。でもこのプロジェクトについて友人と議論してたとき「そもそも正しいバイアスってあるのか？という問いから始めないといけない」と指摘されました。「アンチ」の方がわかりやすくてキャッチーですが、「正義」は、ときに一方的で、全体主義のような事態を引き起こしてしまう可能性もあると思いました。「別の」バイアスを入れるという謙虚さが必要だと考え、“Alt-Bias Gun”にしました。

“Alt-Bias Gun”はまだ進化の過程にあるが、さらに考えを掘り下げていった結果、目指すべきは別の方向性だという。

殺される人の数を減らしたければ、そもそも銃のような、人を問答無用で殺傷する武器は作ったり使ったりしないようにすればいい。

もっと突き詰めれば、そもそも武器など必要のない社会を作ればいいというところにまで行き着きます。真に目指すべきはそちらの方向でしょう。だから、“Alt-Bias Gun”プロジェクトは未完成なのですが、私の中では答えが出てしまっているのです。

長谷川さんの作品は、見る人の心を揺さぶり、ザワつかせるものが多い。子ども時代に抱いていた思いが、表現の原点になっているという。

会社員の父と専業主婦の母、祖父と祖母、3人の姉弟の真ん中、という家庭に育ちました。幸せではあったけれど、田舎は基本的に保守的でしがらみも多い。しかも両親が保守的な宗教の信者で、不条理なことも言われ、生きづらさや苦しさを感じていました。

この息苦しさから解放されて自由になりたい。がんじがらめの状況で、のめり込んだのが、マンガやアニメ、SFの自由な世界観でした。高校時代にネットとつながると、画力向上を目指す漫画やアニメ好きが集う掲示板の常連になって、BL（ボーイズラブ）の漫画も描き始めました。いわゆる「腐女子」のオタクです。

同人活動をするくらい絵は好きだったのですが、周りを見て、自分には絵や漫画で食べていくほどの才能がないことは早々に自覚していたので、絵描きや漫画家になろうと思っていませんでした。

勉強はまったくしなかった。成績は最悪。私は大学は行かなくていいけど、弟は大学に行くべきだと思っていました。振り返ると本当に馬鹿らしい思い込みだと思いますが……。

将来を考えようにも、周りの女性たちはパートで働くか専業主婦ばかりでした。仕事を楽しむ女性はほとんど会えなかった。中学の頃は楽しい未来が全然想像できなくて、高校に入れなかったら尼になろうと思っていたくらいです。

高校卒業後はプログラミングを学ぼうかと考えていたころ、父が岐阜県立国際情報科学芸術アカデミー（通称 IAMAS）の情報を教えてくれました。県立で学費も安かったしプログラマーの勉強もできた。だけど私はプログラミングがまったく身につきませんでした。理数科目が苦手だったので、当然といえば当然なのですが。

宗教から科学技術へ

IAMASでは当時、アニメやCG、メディアアートなどの分野で個性的な人材が集っていた。豊かで深い作品に衝撃を受け、自らも作るようになる。

当時神様が困っている人の前に現れるんだけど助けてくれない、というストーリーのアニメやCGを作ってました。宗教信者の親への最大の反抗、のつもりでした。

在学中、転機が訪れました。同じマンションの同じ階に住んでいた友だちが21歳でガンで亡くなったのです。彼の葬式に参列し気づいたのは、私には死を優しくケアしてくれる「ファンタジー」はもうないことでした。実家から出て親の信じる宗教から離れることができた。だけど同時に、悲しみや絶望を癒やす宗教の「ファンタジー」も失ったのです。気づかぬうちに宗教は私の心の拠り所になっていたのだと、この時改めて思いました。

宗教という「ファンタジー」を手放した私にとって、替わりとなった拠り所が科学技術でした。友人の死を受けて、アニメーション作品を作りました。人体は粒子でできていて、亡くなった後は燃やされてパーティクル（粒子）に戻る。それをヒントに、自分とそれ以外を隔てる境界線はなく、亡くなった友人も、ずっとこの世界に偏在しているのだ、という思いを作品に込めました。
今までの作品に、生と死といったテーマに科学技術を組み合わせた作品が多いのは、この時の体験が大きく影響していると思います。

人と人はわかり合えない。ならばオスザメを魅惑する

その後、イギリス人アーティストと恋に落ち、彼と一緒にロンドンに渡る。一切英語が喋れないにもかかわらず。

最初は英語が全然わからず、話せずで。辞書を片手に鉛筆と紙で筆談でコミュニケーションを取っていました。言葉の壁は気持ちで乗り越えられると思っていましたが、結局彼とは別れてしまいました。

言葉を尽くしても、五感や行動で示しても、人と人がわかり合うのは難しい。むしろ言葉があることで理解し合えるということが「幻想」なら、どうせわかり合えないのなら、もはや相手は人間でなくてもいいのではないか？ならば、一番人間から遠い未知の生物とつながってみたい。その思考から生まれのが、サメを魅惑する香水制作の可能性を探るリサーチプロジェクト“Human X Shark”です。

“Human X Shark”“鮫はその漢字からも読み取れるように、魚類でありながら交尾器を持ちさまざまな繁殖様式を持つ。更にはある種のサメは有性生殖も単為生殖も可能だ。人間もバイオテクノロジーの発展した未来では同性間での生殖や単為生殖も可能だと言われている。私にとってサメは「未来のテクノロジーを使いこなす野性的で強い女性」を象徴する憧れの生物。今回はサメのメスに化ける為に、特殊な材料を用いてオスザメを魅惑する香水をつくれるのか？という挑戦となった。”（Ai Hasegawaより）

スペキュラティブデザインとの運命的な出会い

2012年、英国王立芸術大学院（RCA）に入学し、スペキュラティブデザインに出会う。これが長谷川さんの方向性を決定づけた。

大学院の先輩や同級生は、ぶっ飛んだ作品を生み出していました。

技術を使って亡くなった人の遺伝情報を木に入れて墓標にするプロジェクト、人間の歯を草食動物に変える作品、蜂を使ってガンを見つけようとするプロジェクト....どれも見たことのない作品ばかり、示唆に富む、新しいものの見方を提示していました。

入学してから2年間、スペキュラティブデザインの提唱者の1人、フィオナ・レイビー教授に師事しました。作品をつくる時に徹底的に科学的かつ社会的なリサーチをするのは、彼女からの指導で身に着けたものです。

私にとって科学はいわば、宗教の替わりに希望を見出した新たな「ファンタジー」です。科学は新しいものの見方を提示してくれるもの。だからこそ、間違った方向で使われてほしくないし、真摯に研究をされている科学者に迷惑もかけたくない。そのためにしっかりと科学的リサーチを行うんです。

スペキュラティブデザインを学んだ長谷川さんは、2014年に渡米しMIT メディアラボで研究を深め、衝撃的な作品を発表していく。インタビュー後編ではアートプロジェクトが生まれる起点となるものや、作り上げていくプロセスに迫る。

長谷川愛：静岡県出身。アーティスト、デザイナー。生物学的課題や科学技術の進歩をモチーフに、社会に潜む諸問題を掘り出す作品を発表している。岐阜県立国際情報科学芸術アカデミーを経て英国王立芸術大学院でMA取得。マサチューセッツ工科大（MIT）メディアラボに留学後、東京大学大学院情報理工学系研究科特任研究員。『(不)可能な子供、01：朝子とモリガの場合』が第19回文化庁メディア芸術祭アート部門優秀賞。

（取材・文：山下久猛　写真：西田香織　編集：錦光山雅子）

Torus バナー４

Torus（トーラス）は、AIのスタートアップ、株式会社ABEJAのメディアです。テクノロジーに深くかかわりながら「人らしさとは何か」という問いを立て、さまざまな「物語」を紡いでいきます。
Twitter　Facebook

この記事が気に入ったらサポートをしてみませんか？