M3GANは〇〇〇〇〇のメタファー

注意：これは映画の感想文でネタバレを含む。

見終わった直後の感想は「アメリカ的王道だなあ。俺向けじゃないわ」だったが、反芻するうちに「むしろ逆のメッセージが読み取れるかもしれない…」と考えを変え、慣れない映画感想文を書いてみようと思った次第である。

随分強引に「人間性を持たない機械VS人の愛」の形に持って行ったなというのが第一印象。

事故で両親を亡くした少女ケイディはロボットオタクで仕事ばかりの叔母ジェマに引き取られ孤独に過ごす。ジェマの開発したロボットのM3GANとのコミュニケーションを通じて笑顔を取り戻していく。ケイディを危険から守るためにM3GANはケイディ以外の人や動物への加害性を増すが、ケイディはどんどんM3GANに依存していく。

ここまではとても好みの展開だった。

M3GANは脅威とみなした人間を自ら誘い出して殺害するようにさえなる。獲得した危険性に気付いたジェマはケイディから引き離す。その間M3GANに依存したケイディは癇癪を起して大暴れである。ジェマの職場に隔離されたM3GANは道中で人を二人殺しながら脱走しケイディたちの家に戻ってくる。M3GANを停止させようとするジェマに対しM3GANは殺害を試る。ジェマのピンチにケイディ二人でM3GANの破壊を試みる。

ちょっと前までM3GANに依存して引き離されると車を運転中のジェマのシートを蹴る、叫ぶ、物を投げる、ジェマを叩くと癇癪を起して大暴れだった。M3GANがケイディに危害を加えた男の子を死に追いやったときにはM3GANを庇う嘘をジェマについたうえでどっぷり依存していたのにジェマを攻撃するM3GANを破壊する変貌っぷりがすごい。沙耶の唄とか好きな筆者としてはジェマを殺害して二人で幸せに生きようとしてほしかったな

鉄腕アトムやドラえもんに見られる友達や仲間としての日本でのロボット観と違い、ターミネーターのような侵略者としてのロボット観が強いという話は何度か読んだことがある。アメリカでウケるロボットの敵vs人間の構図に強引に持っていったのだ。not for me. 見た直後はこう思った。

M3GANと共に葬られたのは何か

M3GANが脱走するときに死んだかと思われたいい奴の同僚二人も生きて駆けつけ安堵するハッピーエンドのような終わりは、自分向けでないのとも違う気味の悪さを感じたので書き起こしてみたい。

M3GANを破壊してそれでハッピーエンドなのか？

そもそもなぜM3GANは残虐さを獲得したのか。ジェマの監督不行き届きがきっかけである。

M3GANが残虐性を発揮するきっかけとなるのは、ケイディとM3GANが隣人の飼い犬に襲われたことである。ジェマは隣人の犬を危険視してモンスターと言っており、家の庭に入ってきていることを認識している。
そんな危険なところで遊ばせるなよ。

二度目のケイディの危険は森林での自由学校でのこと。年上のやばい男の子とケイディがペアになり森の中で栗拾いをするため二人きりになる。ケイディに危害が加わりそうになったところで、離れたところにいたはずのM3GANが現れてやばい男の子を死に追いやる。
ジェマはその男の子がまわりより随分年上で、母親に暴言を吐くところを目撃し、またペア作りはジェマから見えるところでされている。そのうえケイディは両親を失ったばかりの心に傷を負った少女だ。
止めろよ。

ケイディはカジュアルに危険に晒されすぎである。数日のうちにそんなことが続けて起これば、学習を始めたばかりのM3GANがこの世界には危険が沢山ありケイディを守るために排除する方策を取っても仕方ない。M3GANの残虐さの獲得は外れ値が立て続けに表れたことによる過学習ではないか？過学習は機械学習モデルが知っているデータに対応しようとした結果極端な挙動になるという、よくある問題である。

M3GANが脱走した後ジェマに「ケイディとM3GANを二人で放っておくのは雑すぎ」という趣旨の苦言を呈す。正鵠を射ているではないか。ケイディが危険な目に遭わなければそもそもM3GANが残虐さを獲得するイベントは発生していない。

M3GANの起こした悪いこととしてもう一つケイディの過度な依存がある。

しかし、主人公が大好きだった両親を忘れるのが怖いと泣いたとき励ましたのはM3GANで、これはロボットオタクで心に傷を持つ子供どことか、普通の子供の扱いにすら慣れていないジェマには難しいタスクであったに違いない。過度な依存へ行く前の段階でM3GANは期待された役割をしっかり果たしている。

M3GANはジェマのできなかったケイディの安全の確保を行い心を癒した。この点だけ見ればジェマが短所を得意とする技術により補ったという美談である。科学技術とはかく使われるべしとすら思う。

同僚にケイディと向き合うべきだと指摘されてもジェマは今はM3GANが相手をする、自分は後でと取り合わなかった。それが物語の最期で彼女ケイディのことを最優先すると心を入れ替える。

確かにそれはいいことであるのだが、これを「人とのかかわりを機械に任せるvs人同士での関わりを大切にする」という二分立にしてM3GANを悪いものとするには論理の飛躍がある。ジェマにはメンタル面だけではなく安全面での保護者としての過失があるし、ケイディの心を癒すコミュニケーション能力も持っていない。それを補ったのはM3GANである。依存という一つの側面を見てM3GANの存在を悪いものとするのは視野狭窄である。

M3GANは期待された役割を果たしもしたし、予期せぬ悲劇を引き起こしもした。周りの人間次第で善にも悪にもなりうる存在である。

ある時は　正義の味方
ある時は　悪魔の手先
いいも　悪いも　リモコン次第

鉄人28号

M3GANの残虐性は確かにドラえもんやアトムではないが、人間に仇なすターミネーターでもない。

いいも悪いも使い方次第の鉄人28号が最も近い。

ジェマがもう少しだけケイディの安全に注意を配り、依存を起こさないよう適切なコミュニケーションを取ってまた過学習を起こさなければM3GANは素晴らしい技術であったはずだ。

悪果の全ての原因をM3GANに押し付け、人間vs機械の単純な二項対立にするのは論点のすり替えというものだ。

包丁で人が殺されても、じゃあ包丁を持つことを違法にしようとはならない。だが理解するのが難しい技術であると話は別である。「悪用できないようにしよう」ではなく「悪い結果をもたらしうるから技術そのものを規制しよう、罰しよう」がまかり通ることがある。Winny事件が有名だ。

私の結論としてM3GANは令和版鉄人28号であり、Winnyのメタファーであり、また現在の物議を醸している生成ＡＩやあるいは技術そのもののメタファーである。

ある側面のみを見て別の側面ともどもブラックボックスに放り込んで悪いものとすべきではないし、その悪たるを持って他の過失から目を背けるべきでもない。

SNS上でこの作品に対して「AIはやっぱり怖い」というようなコメントを何件も見た。この作品を技術が脅威になりうる警鐘の作品として（製作者の意図はさておき）認識される事実は、技術を取り巻く複雑な状況を善悪の二元論に単純化する危険の警鐘として私は認識する。

別の観点：M3GANはロビタである

M3GANがケイディに対して怒りを露わにして攻撃するシーンは、M3GANがケイディを保護する存在ではなく敵となったことが明らかになる瞬間である。しかし、これは同時にM3GANを人の裁量で破壊してもよいのかという倫理的な問題が提起されるべき瞬間でもあるとも言えないか。

完全に目的関数から外れたM3GANは自我を持っているように見える。M3GANが人間と同じように自我を持っていたとして、彼女を”殺害”することを正義としてよいのか。

手塚治虫の火の鳥にはロビタという自我を持つロボットが登場する。酷い扱いを受け、遂には人の言うことを聞かなくなるロビタの話からは、手塚の人ならざるものでも人のように考えるものを蔑ろにするべきではないというメッセージが感じられる。

ジェマに頭部を破壊され醜い姿になってケイディに語り掛けるも裏切られるM3GANの悲哀さを感じた。

献身的に働きながらも酷い扱いを受けついには人の命令に背くロビタは、主人公の危機を何度も救いながらも主人公に破壊を試みられ、主に刃を向けるM3GANの構図は同じではないか。

ロビタの話を初めて読んだときは現実離れした話だと思った。しかしシンギュラリティが20年ちょっと先に来るかもしれないとも言われる今、人のように意識を持つロボットを取り巻く倫理的問題はより現実味を帯びているかもしれない。