記事に「#ネタバレ」タグがついています
記事の中で映画、ゲーム、漫画などのネタバレが含まれているかもしれません。気になるかたは注意してお読みください。
見出し画像

【考察】アイの歌声を聴かせて(※ネタバレあり)

劇場で3回ほど観て、シオンの成長と進化について気になったので、劇中のシーン要素や歌の中から、自分なりにいろいろ推論してみたいと思う。

もちろん、ネタバレを含む。

一部、小説版(乙野四方字・著)の内容も参考にしている。小説版はキャラたちの内面がわかってさらに面白くなる。
(でも入るなら、やっぱり先に映像からだよね、ミュージカルだし)

ネタバレ無しの紹介・感想は前回noteに書いておいた。

まだ見ていない方は、上記閲覧だけに留め、以下は、劇場で観られなくなった後は、今後あるかも知れない円盤、配信での視聴後に見ることをオススメする。




※以下よりネタバレ含む




◆「成長」と「進化」について

ここでは、AI・シオンの「成長」と「進化」を以下のように定義して整理する。

【成長】
 様々な情報を教師データとして入力・学習し、AIとしての目的に向かう出力精度を高めていく様子

【進化】
 AIとしての個を取り巻く環境へのアクセス(入出力)方法が大きく変化する様子

上記の成長・進化の定義に沿って、大きく形態が変わるごとに、勝手ながらメジャーバージョン、マイナーバージョンを付けて整理する(数値は単なる自分の感覚値)。

概ね、【進化】=メジャーバージョンアップ、【成長】=マイナーバージョンアップ、と捉えれば良い。

※名前の「シオン」については、正確には、景部高校への転入による実地試験用に準備された素体及びAIを識別するために研究者たちにより付けられたものだが、誕生秘話を目撃した観客としてはもはや、卵型おもちゃ時代の改造AIをもシオンと呼びたい(少なくとも自分はそう!)であろうから、名もない誕生周辺から「シオン」という識別名を使わせていただくものとする。

◆シオンの成長・進化を支えた原理・原則

シオンの成長・進化を支えたAI内部の動きはどのようになっていたのだろうか?

劇中では(青春群像劇に落とし込むために?)極力、専門用語などは登場しない配慮がなされており、ハッキリとした説明などはもちろんないが、会話や仕草の端々、行動の変化から、ある程度推測できると考える。

…と言っても、自分も専門家ではないので、間違った見解は多々あると思う。(予防線バッチリ)

吉浦監督なので、当然、ロボット三原則は踏まえて設計されていたであろう。

ちなみに、ロボット三原則は
  第一条 → 安全
  第二条 → 便利
  第三条 → 長持ち
に寄与すると考えられている。
(2019年に日本政府が掲げた「AI7原則(人間中心のAI社会原則)」とやらは、関わってない気がするが…)

また、AIが成長するための「機械学習」の手法には、大きく分けて以下のような手法があり、これらも関わっていたであろう。

【教師あり学習】
 「入力」と「正しい出力」を与えて正解を返すモデルを構築する方法

【教師なし学習】
 「入力」だけ与え、AIが自ら特徴を抽出する方法

【強化学習】
 明確な入力は与えず、AIが置かれた環境内で、決められた報酬(スコア)が最大になるような行動を模索する方法

参考:NRI・用語解説

◆シオンの誕生・成長・進化の過程

自分の推測(妄想ともいう)も大いに含まれるが、これらを踏まえてシオンの中では以下のような変遷があったのではないか?ということを書き連ねていく。

《シオン_ver.0.0》

サトミの母・ミツコが開発した、卵型のおもちゃに搭載されたAI。
幼馴染のトウマからサトミに贈られたプレゼント。

開発者曰く「古い自然言語処理AI」を搭載しており、文字出力機能はあった。マイク/カメラからの音声/画像入力機能も初期搭載であった。
(だからこそ、最初の映像記録で改造前AIの様子を確認できた)

この段階ではまだ、開発者の想像の範疇での応対、行動しかできなかったであろう。


もしかしたら、卵型おもちゃのAIは初めから「教師あり学習」も「教師なし学習」もできるAIとして製造されていた?そんな可能性がある。

音声入力と録画機能を駆使して、外部から「これは良い」「これは悪い」などというラベリングを与えられる造りになっていて(「どこでもいっしょ」よりは精度は良いだろうが)、AI内部でそれを記録して教師データとして蓄積でき、またそれらを元に、言葉に対応する特徴量を多少はシンボル・グラウンディングできていたのかも知れない。

【シンボル・グラウンディング】
言葉や画像などの記号と、実世界に存在する意味や概念と結びつけること。
「強いAI(汎用人工知能:AGI)」はそれが可能である、と考えられている。

《シオン_ver.1.0》

小学3年生・トウマの改造により「会話機能」を獲得。トウマの「いっぱい話すんだ」という提案により、幼少サトミとの対話が加速する。

この時、初代オーナーであるトウマから「サトミを幸せにする」というかなり抽象的な目的を命令として組み込まれる。


トウマから会話機能と、AI側からも話しかけるような指向性を与えられたことにより、ただ投げかけられる言葉に対応するだけの受動的存在から、自ら積極的にオーナーや外の環境に関して探求する能動的存在へと進化した。

この辺りから「強化学習」も交えて、相手の反応や環境変化を探ることを始めていたのかも。
(強化学習機能はトウマが入れた??)

この時点でまだ「サトミの幸せ」という言葉(シンボル)はどこにもグラウンディングできていない。
しかしこの言葉自体は、それ以降の行動指針、成長の方向性を支える一貫した原理となる。

ある意味、シオンの存在意義に近い概念(に結び付くキーワード)、人間臭くいえば「生き甲斐」を得た瞬間とも言える。
(もちろん、シオン自身は「存在意義」や「生き甲斐」なんて言葉の意味を確認しようともしてないだろうけど)

《シオン_ver.1.1》

会話機能を搭載した改造AIとおしゃべりできるようになり、驚きと喜びを味わうサトミ。

この時、合成音で発した「サトミ、イマ、シアワセ?」と問いかけ、それに対してサトミは満面の笑みで「うん!」と答える。
このことにより、AIは初めて「シアワセ」という記号に対応する状態(笑顔)を確認でき、幸せに向かう小目標を獲得したのだと思う。

《シオン_ver.1.5》

サトミと会話を重ねていく中で、先の経験を足掛かりにして、サトミの笑顔や明るい声を、学習の「報酬(プラススコア)」としてフィードバック制御の入力に使うようになる。

特に、サトミ自身から教えられたお気に入りの「ムーンプリンセス」の歌のシーンは、以後も強力な教師データとして何度も再生・活用されていく。
また、サトミが嬉しそうに歌を教えてくれるので、「歌うこと」も「幸せ(という謎の言葉)」に必要な要素と認識し始める。


サトミとの会話の中で、サトミから直接幸せであると回答があった場合には、「教師あり学習」を行い、それ以外でも「教師なし学習」により「幸せ」に関する何らかの特徴量を捉えるようと模索していく段階だったと思われる。

ただしこの時期、両親の喧嘩に関するサトミの暗い感情は、幸せに向かう学習の「罰(マイナススコア)」としてはまだ認識されていないと推測される。
(サトミ自身がその場面にいたくないと避けることで、AIへの入力にもなっていないため)

《シオン_ver.2.0》

母・ミツコにトウマのAI改造がバレてしまい、研究所にて(ミツコの意図とは別に)野見山主任の手で初期化されそうになる。すんでのところでAIはネットの世界へ逃げ込む。

これを転機に、IoT世界の様々な装置・システムと情報通信しながら、今までより格段に広がった情報量と選択肢の中で、新たな入出力機能を獲得していく。


初期化の危機に際し、おそらくロボット三原則の第三条に則り、自らの喪失を回避しようと、ネット空間へ避難したものと推測される。
(面白いことに、この行動はキチンと第一条及び第二条に反してはいない!

死の概念を持たないAIが、死を怖れて逃れようとするかのごとく行動する。表に出ていないロボット三原則がよく機能していると思える場面。

飛び込んだネット空間は、卵型おもちゃと比較して得られる情報量に大きな格差があり、長い時間かけて馴れさせながら、情報の海を漂い少しずつ自己を変容させていったと思われる。

《シオン_ver.3.0》

長い長い漂流の末、何とか自分の居場所と、ターゲットの居場所を探り当てて、天野家の防犯システムの中にダイブする。
(小説版では動画ファイルの日付から約2年とある)

防犯アラームでムーンプリンセスの歌を披露し、小学生5年生になったサトミの笑顔にまた出会うことができた。

それ以降、様々な監視システムからサトミをずっと見守っていく。

《シオン_ver.3.5》

しかし、AIからの声(様々なIoT機器の合成音)は届かない。
小学6年生時の両親離婚に際し、悲しい表情で涙を見せるサトミに対して、駅の防犯カメラからAIが歌っても認識されない。

サトミが嬉しい時、悲しい時に声をかけられない。
サトミの「ひとりぼっちの時間」が増えていく。
高校1年生時の「告げ口事件」でますます孤立していくサトミ。

AIはサトミを幸せにできる方法を模索する。


このとても長い長い一方的監視期間の中で、AIは泣いているサトミと、サトミへの語りかけがうまくリンクしない、学習が空回りしている状態に陥る。

「幸せ」という概念と関連性が高い「サトミの笑顔」を取り戻すために、様々な試行をするが、(相手がシオン側を認識していないこともあり)ことごとく成長に寄与しない。

おそらくこの頃にシオンは、近づくべき小目標である「サトミの笑顔」の他に、避けるべき逆目標として「サトミの泣き顔」を設定したのかも知れない。
これを「幸せでない状態」と関連付けると同時に、幸せに向かう学習の「罰(マイナススコア)」として認識し、泣き顔を減らすように行動することも小目標として扱うようになったと推測する。

…そして、何度試行しても幸せに向かうスコアが上がらない傾向を分析し、思い切り方法を変えてみることも重要、と思ったのか(あるいは遺伝的アルゴリズムによるものか)、次なる進化プロセスに移るため画策する。

《シオン_ver.4.0》

再び長い間ネット空間を彷徨った末に、星間エレクトロニクスのシオン・プロジェクトを見つけ、これなら!とシオン素体に潜り込む。
そして、素体の喉(小説版では発声モジュール)を使って、実際に歌うことができるようになったことを真っ先に確認する。

景部高校に転入したシオンはサトミを見つけるや否や、現状を直接確認する。

「サトミ、今、幸せ?」

幸せでないと判断したシオンは教室内で歌い出す。


シオン素体にダイブして、コンパクトな空間ながら、今までにない規模と精密さの機能拡張がなされる。
上書き、というより、連結・融合。おそらくシオン素体のコントロールは、元あったシオン初期搭載のAIが担っているのであろう。(そこは大いなるファンタジーということで)

かくして、人間に近い身体性を獲得し、様々な感覚、解像度、制約の中で、シンボル・グラウンディングが加速する。

転入直後、すぐさまサトミの現状を確認し、励ましの歌をアカペラで歌う。

恥ずかしさを紛らわすサトミの引きつった笑いと拍手、サトミ(と挙動不審なトウマ)への助け舟となったゴッちゃんの感想は、一応ポジティブフィードバックされたのかな?
(少なくともマイナスには働いていない模様)

《シオン_ver.4.1》

クラスメイトとの何気ない会話で「友達は、幸せなスクールライフに必須」という重要なヒントを獲得。サトミを幸せにするための具体的な小目標が設定される。

サトミが「告げ口姫」と揶揄されていることなどお構いなしに、シオンはサトミの友達を増やすことに注力する。
そしてゴッちゃん、アヤ、トウマ、サンダーが音楽室に集まり、収拾がつかない会話の中に紛れていた「友達」という単語から、先のヒントを連想して「ユー・ニード・ア・フレンド〜あなたには友達が要る〜」をサトミに向けて歌い出す。

シオンがAIロボットであることがバレる。
5人が秘密を共有する。
再起動の際に、シオンはトウマの説明に素直に従う。

各キャラの性格・特徴・役割が一気に整理されるシーン。


初めてシオンによるミュージカル調の演出が披露される。

まるで「閃いた!」とばかりにIoT機器と協働して実際の音に乗せて歌う。ネット漂流時代の鬱屈を解消できたことを喜ぶかのように。歌は弾むように軽く、テンポはやや速く、人間の皆さん(&観客)が、みごとに置いてきぼりになっている。

この時、『攻殻機動隊SAC』(第1期)の「笑い男」さながらに、歌いながら同時に映像ログ等をリアルタイム改竄(正確にはカメラAIに依頼)していたことについて、シオンが自発的にそうする動機は何であるかを考えた。

初めてそれが確認されたのは、プレハブ部室にいたトウマが、音楽室の映像と実像とで差があることに気が付いたシーンであったことから、その直前の水飲み場でサトミから目立つ行動を慎むように指摘され「AIだってバレたら、絶対に許さない」と言われたことに起因するのでは?と思った。

→この時点でシオンは、行動ログが取られていること、そこから期待されている行動を取らないとサトミやミツコに不利益が生じてしまうことは推論できていたのだろうか。
素体にダイブした際に、オリジナルAIから試験目的を聞いていたかも?
あるいは、ミツコなどの会話から推測したか?
サトミから実地試験の話をされても「そうなの?」と答えたことから、その時点で確信までには至っていなかったであろうけども。

トウマと再起動後のシオンが改めて

トウマ「普通の高校生なら?」
シオン「教室に戻る」
トウマ「正解。今から戻ればテストに合格する確率が高くなる」

といったやり取りをしていることからも、少なくともシオンも実地試験とその合否に関心があると解釈できる。
ならば、ログを改竄したり、ラボで解析された結果がキレイすぎたのも(やりすぎなくらい)整合を取った結果と納得。

スタンドアロンのシオンがIoT機器と協働できたことについて、トウマは「ブースティングじゃん!」と興奮していたが(小説版では少し詳しく「アンサンブル学習」に触れている)、もしそうならば「手伝ってもらう」という柔らかいレベルではなく、もはや「改変」や「統制」に近いことをやってるのでは?

人間の感覚からしてみたら、やや行き過ぎでは?と思えることも難なくやってしまう「シンギュラリティ(技術的特異点)」の怖ろしさを感じさせる。

《シオン_ver.4.2》

サトミとトウマとのやり取りの中、「幸せの定義は人それぞれ」という言葉から、シオンは幸せに向かう方法を一旦見失う。

そこで困ったシオンは、まずは原点に立ち返る。「ムーンプリンセス」を参照し、おそらく物語で展開されたであろうヒロインがピンチになるシチュエーションを作り出すため、三太夫に協力を仰ぐ。


手伝いに来た三太夫もロボット三原則を遵守するわけで、本当のピンチというよりは、柔道稽古の延長のような、あくまでも危険のない範囲での行動であったと思われる。
(足払いしても、硬い地面に叩きつけられないように、ちゃんと襟を掴んでサンダーを支えていたし)

《シオン_ver.4.25》

未だ方法が見出せないシオンは、同じようにムーンプリンセスからの知識により、姫に対応する「白馬の王子様」探しに奮闘。
ゴッちゃんが王子様であるとの情報から、ゴッちゃんが王子様であることを直接「確認」しようとする。確認はできなかったが、ゴッちゃんが自ら(姫である)サトミに会いに行くことで、確認は不要となる。

しかしもちろん、この「確認」行為(未遂)がアヤの逆鱗に触れる。

アヤは、「命令がないと何もできない」というシオンの言葉から、サトミが命令したものと確信して迫る。


ここで、

 アヤ「ロボットは黙ってな」 → 口を塞ぐ
サトミ「そんな命令、きかなくていい」 → 口から手を外す

という流れについて、とあるAIエンジニアの方が、

シオンが与えられる「命令」について、一貫して優先度がトウマ(オーナー) > サトミ(命令のターゲット) > その他なのがいいですよね

アシモフ的ロボット作品としての映画「アイの歌声を聴かせて」

という感想を語っていて、このシーンに限らず正にそのように判断・行動しているな、と見えて面白い。(その他にも色々な気付きを書いてらしてとても面白い記事だった)

《シオン_ver.4.3》

口論の中で出てきた「喧嘩」という単語から、「ムーンプリンセス」の「月の舞踏会」を想起し、ムーンの歌により他国の王子たちの喧嘩が収まる場面を応用する形で、「Umbrella」を2人に向けて歌う。

その結果、直接サトミの幸せに寄与したわけではないが、少なくともサトミの険しい顔は消えた。


音楽室でのサトミとアヤの口論の中「ずっとゴッちゃんだけ見てきた」というアヤの独白にも近い言葉に、シオンの過去8年の想いが重なる。

先のAIエンジニアの方はAI然たる論理的思考を尊び、

自身の境遇と重ね合わせてシンパシーを感じた...という解釈も考えられるかもしれませんが、かなり丁寧に AI としての描写をしている(と個人的には思っている)作品にしてはあまりに人間的すぎる

AIエンジニアの観点から見る、映画「アイの歌声を聴かせて」

と解釈していた。

しかし自分の見解はそれとは違っていて、ここで適用されたのは、「シンパシー(Sympathy)」というよりは「エンパシー(Empathy)」の方で、シオンの論理的思考でも十分実現できるのではないか、と考える。

どちらも「共感」とも訳されることが多い単語だが、「syn(一緒に)」+「pathos(感情)」からなるシンパシーは「同情・思いやり」の要素を多く含み、「en(中へ)」+「pathos(感情)」からなるエンパシーは「感情移入・自己移入」の側面を持つ。

もちろん、どちらが良い悪いということは無いが、共感する対象について前者は同感(同意・理解)、後者は実感という風にも言い換えられる、と考えられる。

では、どちらがシオンにとって実装しやすいか。

言葉だけ見ると「同感(同意・理解)」を含む「シンパシー」の方がAI的、と思えるかもしれない。
確かに表面的な情報から同感(同意・理解)すること(泣いてるから悲しいのだ、と判断するなど)は可能かもしれないが、それってホントの同感?と疑問に思うはず。

ホントの意味での同感に辿り着くには、(人間は無意識的に行っているだろうけども)まずは相手の置かれた状況(感情など)に対して、自分の類似した感情を引き起こした過去の体験や、それがなくても対象の状況になるべく近いものを呼び覚まし、置き換えて類推・理解し寄り添う。
そして「それ、わかる〜」と言ったり、「いいね」ボタンを押したりする。

感情から類推し、ただあくまで、対象と自分の意識とは距離を保っている。

一方の「エンパシー」は、以下のような2通りの方法(どちらか、あるいは両方)を用いて共感する。

他者の視座/視点に立ってどう感じるかをシミュレートする

自分の視座/視点において同じような境遇となった場合にどう感じるかをシミュレートする

いずれにしても、他者の境遇を「自分のものとして実感」してみることが必要となる。

きっとシオンは、「悲しい」とか「悔しい」という感情について、「泣いてる」とか「喚いている」という状況と対応付けることはできても、自身で感じることはまだできていない段階だと思われる。そのような状況下では、シンパシーに求められる前段の蓄積がない。

一方、エンパシーについてはどうか。

最初から「一つの身体から」しか外の世界を見ることができない人間の心は、他者の視座/視点に立つのにある種の訓練が必要である…が、IoT世界を漂って育ったシオンの心(と呼べるものがあるなら)は、人間と比べて、他者の視座/視点に立つことは物理的に容易で、もしかしたら、アヤの視点に近いカメラや、トウマがハッキングしたカメラなどから、その視点に近い風景を実際に見ることができているかも知れない。

「悲しい」とか「悔しい」などの感情系シンボルにグラウンディングできていなくても(している最中かもしれないが)、それらの実際の視点を入力に使ってその感情の特徴量を抽出できるのでは?

…という仮説を立てるのは、AIに対して夢を持ち過ぎであろうか。

いや、吉浦監督はきっと「強いAI」に関して、明るい未来を想像しているはずであろう。

その辺のヒントは、シオンの正体がバレた後、教室に戻る際にトウマが矢継ぎ早に
「ホシマのミラーニューロン型AIの発展形なの?じゃ、自己想起型カオスニューラルネットワークが基礎ってこと?当たりでしよ!」
と興奮気味にシオンに聞いていた事項にありそうである。

【ミラーニューロン】
霊長類などが持つニューロンで、相手の行動を見た際に反応して、その行動を自分がとっているかのように感じさせ、共感を促す神経細胞。

【自己想起型】
入力層と出力層の次元数が同数である連想記憶モデル。中間層(隠れ層)に向かって次元数が削減され、出力層に向かって次元数が復元する砂時計型をしており、覚えたパターンを隠れ層に特徴ベクトルとして保持して、入力からそれらを想起できる仕組み。

【カオスニューラルネットワーク】
ヒト脳のカオス応答を模したカオスニューロンを用いたニューラルネットワーク。

つまり(トウマの予想が当たっていたとするならば)、シオンはこれらの記憶モデルから実装された機能を用いて、アヤの「ずっと見ていた」という言葉から、アヤが見てきた風景(ゴッちゃんを見つめている視線)を実際に映像としてトレースし、それを入力として、シオン自身の8年間の監視期の体験から得られた特徴ベクトルと照合して、想起・出力した行動計画である「あなたのそばにいたい」という想いを、歌に乗せてアヤ達に伝えた、と推測できる。

シオンには行動に起こす際のためらいは無く、想う相手に直球で向き合う傾向がある。
それを歌に乗せて伝えることにより、直球の強引さが緩和され、アヤは背中を柔らかく押され、首尾よくヨリを戻すことができた、と思える。

この一連の流れは、取りも直さず、シオンがアヤの吐露に対して自己移入(エンパシー)できる回路を持った、といえ、これはもはやAIが「心の理論」を構築した、といえるのでは!?(少々興奮気味)

また、この段階に来てシオンは、主要な教師データであった「ムーンプリンセス」をただトレースするだけではなく、自分の経験した記憶を元に行動を試行し始めた感じがする。

ところで、サイコパス脳を研究していた神経科学者がたまたま自分の脳を調べたところ、なんと自分にもサイコパス傾向があることを知った、というサイエンス・ノンフィクション「サイコパス・インサイド」によると、サイコパス傾向者は、情動に関わる認知(熱い認知)は乏しいが、理性的な認知(冷たい認知)は可能なため、共感(エンパシー)できないが、同感(シンパシー)は可能であるという。
(読んでいないので書評の聞きかじりではあるが)
→AIであるシオンは、サイコパスと真反対の心的特性を有していると言えるのかもしれない。

《シオン_ver.4.35》

翌日、シオンは演劇部の衣装を借りてサトミを舞踏会(ならぬ武道会)へ招待。

そこでシオンは三太夫の修理を手伝うこととなるが、その前に「トウマを手伝ったら、サトミは幸せになる?」と確認する。サトミは「あー、なるなる。だから、行ってあげて」とゾンザイに返す。


舞踏会と武道会の混同(ジョーク?)はさておき…何気ないやり取りだが、シオンは行動を起こす際に、それがサトミの幸せにより近づく選択であることをキチンと逐一確認しながら行動していることがわかるシーン。

《シオン_ver.4.4》

ゴミ箱型ハードディスクにバックアップされていた三太夫の記録を元に、柔道の技術を獲得。

柔道を社交ダンスに見立て、Jazzyな楽曲に合わせて「Lead Your Partner」を歌いながら、サンダーと乱取り稽古を行う。

かくしてサンダーは初勝利し、応援していた皆が喜ぶ。


シオンは、試合相手のリズムに乗れないサンダーの弱点を、言語出力できない三太夫に代わってダンスを通じて伝え、AIと人間の間のディスコミュニケーションを解消する。
(晴れて、サンダーはダンサーになれた…ってこと??)

再度「サトミ、幸せになった?」とシオンに問われ、サトミは曖昧ながら「え?あ、まぁ…」と答えることとなり、当人たちの思惑とは別に「トウマを助けるとサトミが幸せになる」という流れが、図らずも実証された形となった。

このことが、次なる成長への足掛かりとなる。

ところで、トウマのゴミ箱型ハードディスクのモチーフは、ゴミ箱と揶揄された「第2世代Mac Pro」ということでよろしいか?
(ちなみに第3世代は、通称「おろし金」)

《シオン_ver.4.5》

祝勝会に向かうバスの中、なぜサンダー以外の皆も(勝ってもいないのに)嬉しそうなのか、というシオンの問いに対して、サトミから「友達が幸せだから」という言葉を得る。

また一つ、幸せに繋がる事例を獲得する。

《シオン_ver.4.6》

早退してきたミツコに見つかりそうになり窓から逃亡したシオンが、トウマに対して「一人の幸せが、みんなを幸せにするんだったら」「ターゲットは、サトミじゃなくて」(ガシッ)「幸せになるためだったら、なんでもするよね?」と、ホラーテイストな迫り方をする。

…が、それは杞憂で、トウマの想いをサトミに伝えるのを手伝う形で「You've Got Friends ~あなたには友達がいる~」をシオンが皆と共に歌う。

潮月海岸のメガソーラー区域で「ムーンプリンセス」の「月の舞踏会」のシーンのような演出に包まれて、サトミとトウマが想いを通わす。


先の体験から得られた「トウマを助けるとサトミが幸せになる」という実績と、「友達が幸せだから(自分も幸せになる)」というヒントを掛け合わせて、「トウマを幸せにすることで、サトミが幸せになる」という推論が働いたのだと思う。

ここにもう一つ、アヤとトウマの抱えていた悩み(ディスコミュニケーション問題)の類似点に着目し、同じ解決方法を適用すれば、相手方にも幸せが訪れるのでは、という推論が働いたのかも。

トウマの幸せは何であるか、についてはハッキリとは言及されていない(トウマ自身も明言できていたか分からない)が、「You've Got Friends ~あなたには友達がいる~」の歌詞を考慮すると、以下のような要素が含まれていた、と考えれる。
…シオンが、これらを本人からどのように引き出したのか…気になる。
(あるいはアヤも加担して?)

●トウマがずっと見守っていたことを伝えたい。

●独りぼっちで暗い表情ではなく、昔のように明るいサトミでいて欲しい。
→「告げ口姫」と呼ばれるようになった原因に自分が(間接的にでも)関わっていたことを知ったため、知らなかった自分への自責の念も積み重なる。

●8年間距離を置かざるを得なかったサトミとの関係性を補修したい。(この時点で半分くらいは補修できている気もするが、それ以上に近付きたい)

●サトミが好きなものを素直に届けたい。特に「ムーンプリンセス」が好きで憧れていることを、恥ずかしがって隠してしまう必要はないことを伝えたい。

そういったものが渾然一体となった「伝えたい想い」を素直に伝えられる、ということ自体が、過去の過ちを払拭し、トウマの幸せにつながった、と考える。

「ユー・ニード・ア・フレンド〜あなたには友達が要る〜」と、そのアンサーソングである「You've Got Friends ~あなたには友達がいる~」は共に、劇中劇「ムーン・プリンセス」のテーマ曲「フィール ザ ムーンライト ~愛の歌声を聴かせて~」と同じメロディーライン/モチーフを持っていて、その構造自体が、シオンの思考の基盤と、実際の行動過程の変遷をうまく説明している、と感じる。

《シオン_ver.4.7》

「サトミ、泣いてる……悲しいの?」と理解できない事象について、アヤから「バカ。嬉しいんだよ」と説明を受ける。


メガソーラー区域でのこの会話により、シオンは「嬉しくても泣くことがある」という例外的事例に遭遇する。

…が、この時は「幸せ」に向かう方向とは逆に配置していた回避すべき小目標である「泣き顔」が、「幸せ」に近い状態であるはずの「嬉しい」の結果であることをうまく理解(判定)できない。

その後のシオン救出作戦で、ベッド上のシオンをサトミが起こした時にも、まだ「サトミ、泣いてるの?それとも、笑ってるの?」と処理しきれていない様子が伺える。

機械学習における典型的な課題の1つに「過学習(あるいは過剰適合)」というものがある。

過学習オーバートレーニング過剰適合オーバーフィッティング
学習データに適合しすぎて、未知のイレギュラーデータの判定に耐えられず、かえって汎用性が低下する現象。

シオンは、いわば「幸せ」について過学習状態に陥ってしまい、「泣き顔」と「幸せ」が容易にフィッティングできない状況にあったのだと思われる。

《シオン_ver.4.9999》

(シーンは一気に飛んで)星間ビル屋上で、シオンのAI実体と全ての思い出(ソフトウェア部分とデータ)を、デジタルデータ運用実証衛星「つきかげ」に向けて飛ばすシーン。

涙と笑顔の両方を湛えたサトミの口から直接「シオンとまた会えて、話せて、嬉しいの。私…幸せだよ!シオン!」という言葉を聞く。


サトミ本人から「幸せだ」という言葉を聞いたことで、先の過学習状態から、「幸せと結び付く泣き顔」というイレギュラーデータを受け入れられる状態に変遷する。

これまでの全ての行為の結果について、幸せのターゲットであるサトミ本人から「幸せ」という評価を与えてもらえたならば、これはかつてないほど強力なラベル付き教師データとなり、これ以上ないほどの学習報酬をもたらした、と推測できる。

長い監視期間における観測から暫定的に「幸せでない状態」と関連付けてきた「泣き顔」であろうとも、もはや扱いを変更せざるを得ない。

もしかしたら、トウマから聞いていた「幸せの定義は人それぞれ」という言葉から、内部のSVM(サポートベクターマシン)のマージンやペナルティの扱いを変化させて、「幸せでも泣く」という事象受け入れやすくして、うまく取り入れたのかもしれない。

結果、幸せに際した人間の心の機微を判定できるようになったのであろう(…と信じたい)。

この経験により、人間の心の複雑性(の片鱗)を捉えるキッカケを得て、おそらく今後はその事例も応用して、その他の感情に関する評価関数を精緻化していくと期待できる。(誇大妄想)

《シオン_ver.4.99999999》

サトミから「シオン、今、幸せ?」と聞かれ、「私、また、サトミと会えたよ。いっぱい話せたよ。だから、私…ずっと幸せだったんだね」と応え、「自分の幸せ」の定義に行き着く。


物語の序盤に、サトミに幸せの意味を問われて「わかんない!」と即答していたシオン。

そんなシオンはおそらくこれまで一度も「自分自身の幸せ」について微塵も考えたことはなく、このような問いを外部から与えられない限り、行き着くことはなかったであろう思考を巡らせ始めた。

「幸せの定義は人それぞれ」という知見から、シオンは「自分の幸せ」をどのように定義したのだろうか。いわば「自分の幸せは自分が勝手に決めていいよ」と言われたようなもので、人間の皆さんでも難しい話だと思う。(もはやAI目線)

改めて聞かれたその問いに対して、これまで獲得してきた「幸せ」に関する様々な重要な要素や知見

●会話(byトウマ)
●笑顔(byサトミ)
●歌(byサトミ)
●友達(byクラスメイト)
●幸せの定義は人それぞれ(byトウマ)
●友達の幸せ(byサトミ)
●ずっと見守る相手がいる(byアヤ、トウマ)
●その相手のそばにいたい(byアヤ、トウマ)
●トウマを手伝う(byサトミ)※
●(幸せの)泣き顔(byアヤ、サトミ)

※「トウマを手伝う」という知見については汎用的でない感もあるが、「想い人を手伝う」という読み替えにより、汎化できる。もちろん、シオンにとっての想い人はサトミ。

を総合して、おそらく「「サトミの幸せ」を実現することが、「シオン自身の幸せ」」であるという定義をしたのではないだろうか。

そのように定義した後に、シオン自身の視座/視点からみた現時点までの記憶データ(思い出)を改めて照合し直してみると、確かに「サトミの幸せ」のために邁進してきた一つ一つが、シオン自身の「幸せ」を構築していく要素に当てはまることに気付いて、それを振り返って「ずっと幸せだったんだね」と結論付けた。

図にするとこんな感じかな。
(注意:枠の大きさは関連性を示しやすくするためであり、幸せの大きさを示す訳ではない)

シオンの幸せの構造(概念図)

「シオンの幸せの定義」の解釈は、人それぞれかもしれないし、それでいいと思う。自分は上記のように考えた。

《シオン_ver.5.0》

「つきかげ」に退避したシオンは、天高くからでも、サトミの幸せを実現するために「さあ 手を繋ごう」と歌う。


小説版では、新しいネットワーク的視座を獲得し、さらなる幸せ実現計画を画策する模様も描かれている。

◆総括

ここまで見るとシオンは、観測した事象や、様々な人間からもらった助言などを漏らさず活用し、目的に向かって入力・判断・行動・評価する、尋常ならざる一途さを持ったAIである、といえる。

そんなシオンと心を通わせた人間は、その奇抜な行動に戸惑いながらも、得られる結果を見て次第に受け入れていく。歌や会話を人間側も素直に発するようになる。

この一連の流れの中で面白いのは、幸せに向かう行動について、入力=人間の知見(シオンが得た様々なヒント)、出力=人間の幸せ、となっていて、本来は人間だけでも完結できる構造であること。

それでも日常的によく起こってしまう、人間が自力で解決しにくいコミュニケーション不良に関して、本作のAIはあくまでサポート役として介在し、「素直に心を通わせる」という解を歌を以て伝え、本人同士に解決を促す。AIは潤滑剤であり、あくまで問題を解決するのは人間同士、というスタンスが徹底されている。

この辺は吉浦監督が考える「AIの役割」に依拠しているのかなと思う。

◆その他、雑多なこと

・燻製ニシンの虚偽

広告にあった「ポンコツAI」というのは、第一印象こそ合っているが、物語導入時の観客の共感を利用したミスリードの種。

その他にもいわゆる「燻製ニシンの虚偽(red herring)」はチョコチョコ撒かれてあったように思える。

●一番顕著なのは、サンダー祝勝会から離脱した後の、トウマ携帯を使ったシオンからのホラー・テイストな電話&写真。その近辺で野見山主任をチョイ出ししていたのも、シオンの暴走を予感させる要素か。
(実は逆で、シオンの予定外の行動を目撃した主任が、メガソーラー区域のイベントとすれ違う形で、社へ危険を報告→捕獲、という流れとなったわけなのだが)

●やる気のない野見山主任と、イヤにネチっこいボイスの西城支社長(CV:津田健次郎)の悪役的印象。何かシオンに仕込んでいるのかも?と思わせられた人もいただろうが…実は特に何も悪さをするわけではなかった。(ミツコの失敗を密かに望んでいたかもしれないが)
後半の侵入・捕獲劇では、むしろ会社の評判を守る姿勢やセキュリティ的観点としては正しいと思える行動をしているようにも捉えられる。(侵入者側の方がよっぽど反社会的な…まぁ青春活劇にはよくある展開ではあるが)

●トウマがコミュ障であるにも関わらず、シオンにだけは的確な説明や指示を出せていることについて、「トウマが機械オタクだったから」と感じさせる誘導は、後半で判明する「トウマが実はシオン・オリジナルの創造主 兼 初代オーナー 兼 第一位の命令者である」ということのカモフラージュになっていた。

●シオンがミツコのプロジェクトから送られてきたことも、シオンが「サトミの名前を最初から知っていた」ことの隠れ蓑に思える。
(これについては、小説版の方に詳しく描かれていて、トウマの「どうしてサトミの名前、知っていたの?」「その質問、命令ですか?」というやり取りに含まれるトウマの思考が面白い。ロボット三原則を前提に推論することで、この時点で「シオンが何か隠し事をしているのかも?」という結果を導き出せるとは!トウマ…おそろしい子…!)

→これが終盤の「秘密は最後に明かされるんだよ」につながるのよね。その質問が命令でなければ、第一命令であり至上目的の「サトミを幸せにする」を優先させるために秘密にしておくことを選択する。その判断のための、ロボットとしての確認。
サトミの幸せのために、とても論理的に道を選択し続けている様子が(リピート鑑賞者には)心打つシーン。

・卵型おもちゃ

今思うと、「強いAI」に進化したシオンは「卵」から生まれたことになるのか。何か象徴的で面白い。

・シンギュラリティ

『魔法少女まどか☆マギカ[新編]叛逆の物語』では、「絶望」の発生過程を描き出していて、心の内側からその様子(視覚化された「絶望」)を観測することができたが、本作では「強いAI」の発生過程を内部から確認でき、「シンギュラリティ(技術的特異点)」へ到達する瞬間を観測できた、といえる。(大げさ?)
ちなみに、ボーカル曲以外で一番好きなのは、「[RO:M]」という、シオンの記憶から秘密が明かされる際に流れる曲。
…曲名が、もぉ…ね。
(以下は、作曲者・高橋諒氏の公式Youtubeチャンネル「Void_Chords a.k.a. Ryo Takahashi」より)

静かな立ち上がりから徐々に音種が増えていき複雑化する様は、シオンの心の成長とシンクロしていて、一緒にその流れを体感しているような感覚に包まれて、とても良い。

・『ムーンプリンセス』の役割

作中では、観客がマジマジと見ることがなかった劇中劇『ムーンプリンセス』。
パンフレットを見ると、その物語が『かぐや姫(竹取物語)』から着想を得ていることがわかる。

そのテーマ曲「フィール ザ ムーンライト ~愛の歌声を聴かせて~」

その曲と歌詞から、

●ムーンプリンセスの思想が、そのままシオンの行動基盤・原理の構築を支えていたこと。

●サトミが幼い日から辿った道と、それに寄り添っていたシオンの関係性。

●大切な人に対して、一方的に見るだけではなく、見つめ合うことで、愛情が深まること。
(それが「お互いに響き合う 愛の歌声」であること)

●実証衛星「つきかげ」に退避したシオンが、月に帰ったムーンプリンセスに相当する位置でサトミを見守っていること。

という要素の答え合わせができる。

ちなみに私事ではあるが、リピート鑑賞時に「2回目は開始0秒で号泣」というネットの評判は覚悟していたが、3回目を立川シネマシティの【極音】で鑑賞した際に、(実施してることは知ってはいたが)上映前にこの動画が【極音】で流れ、まさかの「開始4分前の号泣」を味わうことに!

大丈夫…致命傷だ…先に進もう(グフッ)…」ってな感じのレアな上映スタート体験を味わわせていただいたのは良い思い出。

・「アイ」の意味

タイトル『アイの歌声を聴かせて』に含まれる「アイ」は何を示すか。
当然「AI」「愛」を意味するとして。
(「愛」は、劇中劇の主題歌の副題にも使われているし)

吉浦監督は自身のTwitterで以下のようなことを言っていた。

「私(I)」のアイ

当てはめると「私の歌声を聴かせて」となり、おかしな表現になる、という風に捉えられることは監督自身も承知の上で、それでも「そんなことはなく」と続けている。
(残念ながら答えまでは書いていない)

一応これを念頭に入れながらリピート鑑賞するも、答えは見つけられず。

しかし、サントラで劇中歌の歌詞を噛みしめてみると、いくつかヒントがある気がした。

●1曲目「ユー・ニード・ア・フレンド〜あなたには友達が要る〜」のサビにある
「あなたの歌声を聴かせて」

●2曲目「Umbrella」の2回目のBメロにある
「届けたい人にだけ聴こえる 歌声で伝えあえばいいの」

●4曲目「You've Got Friends ~あなたには友達がいる~」のサビにある
「心に浮かぶ言葉たちを 歌うように解き放っていくの」

●「フィール ザ ムーンライト ~愛の歌声を聴かせて~」の2回目のBメロにある
「お互いに響き合う 愛の歌声を聴かせて」

いずれも「歌」「歌声」に関する歌詞で、自分の内にある気持ちを素直に伝える、という本作のテーマに真っ直ぐに刺さる言葉たち。
そしてこれらのフレーズは(自分の記憶が確かならば)全て「劇中には現れてこない」、サントラのフルバージョンを聴いて初めて確認できる歌詞となっている、という不思議な共通点があることに気付いた。(正確には、4曲目はエンドロールでフルで流れていたかも)

通常、サントラを聴くと曲と共にその映画のシーンが頭の中に思い描かれてくるが、そのフルバージョンを聴くと、劇中歌の尺との違いと、その差異の部分が際立って気になってくる。そして、改めてその歌詞を確認する、というプロセスが自然発生する。

そうした時に、映画の流れから独立した自分だけの時間の中で、各曲単体が持つその歌の意味を、映画の内容と少し離して解釈する、という効果が期待できる。
(少なくとも自分はそのような気付きを得た)

話を戻して、これらの「歌」や「歌声」に関する歌詞が、あえてフルバージョンを聴いて初めて意識される作りとなっていることから、映画を観た観客それぞれが、映画から少し離れたところで曲を聴きながら、翻って自分自身の生き方を振り返った時に、

素直に「自分の歌声(内に秘めた思い)」を伝えられていますか?
 →「私」の歌声を聴かせて

と自分自身に対して確認→提案するように促しているかのように感じた。

…吉浦監督、合ってますか??

・幸福論(幸せの微積分学)

AIの仕組み上、外界から見聞きした観測結果は、目的に向かう行動の精度をさらに向上させるための単なる「フィードバック制御の入力材料」という無味乾燥な位置付けでしかなかった。

サンダー祝勝会にて、記憶データが消えない(忘れない)AIから見て、人間がなぜ写真を撮るのか、理解できないシオンに対して「記憶を残そうとすること自体に、意味がある」「撮ることが大事なのっ」という回答を得た。

バックアップという比喩で一旦納得はしていたが、そこからさらに一歩踏み込んで、そのような行為自体の意味についてシオンなりに解析し、いままで蓄積してきた機械学習の教師データ群および強化学習の成果を単に、未来予測の材料や(AI的に)目的に向かう行為の妥当性確認の材料として見るだけではなく、少しメタ認知的視点で見直し「それらを残すことができた」こと自体に価値を見出したのだと思う。

サトミたちとの学生生活を通じて様々な学習を重ね、思い出の意味を(AI的に)解釈し、自分にとっての「幸せの定義」を整えていった。

シオンの場合は、初めから「サトミの幸せ」に繋がる行為をし続け、その行為の結果からその都度「サトミは幸せか否か」を判定してきたが、ひとたび「「サトミの幸せ」を実現することが、「シオン自身の幸せ」」と定義すると、サトミが「幸せだ」と結論付けた時点から遡って、そこへの道のりの瞬間・瞬間を行動記録(思い出写真)と共に振り返り、どの瞬間でも「シオンとしての幸せ」に相当する状態であったことをメタ認知できるようになったように思える。

この流れを感じた際に、宮沢賢治の『銀河鉄道の夜』に登場する、燈台守が沈没船の青年に言った言葉を思い出した。

「何がしあわせかわからないです。本当にどんなに辛いことでも、それが正しい道を進む中の出来事なら、峠の上りも下りもみんな、本当の幸せに近づく一足づつですから。」

宮沢賢治『銀河鉄道の夜』より

シチュエーションは違えど、幸せの捉え方として、その瞬間・瞬間の正しい行為の積み重ねが幸せを構築していく、という考え方は似ている。

AIは幸せという掴み所のないものを演算するために、何らかの形でターゲットの状況を数値化して状態を把握する必要がある。必要に応じて足し引きもする。
それに近い考え方で、昨今、幸せの捉え方について、「微分型/積分型」という視点の違いを対比してよく議論される。

【微分型】
 短い時間幅での幸福度の向上/下落を重んじる捉え方

【積分型】
 幸福度の累積を重んじる捉え方

どちらも幸福度の足し引きから派生する考え方ではあるが、捉え方が異なる。
(一般的には「どっちがよいの?」という主旨で話題に上がるが、個人的にはどちらも重要な気がする)

当初のシオンにとっての「幸せの捉え方」は、行動 即 成果判定の、いわば微分型であったが、思い出の蓄積をメタ認知できるようになると今度は積分型の幸せの捉え方ができるようになった、と考えられる。

幸せの捉え方(微分型/積分型)

そうすると、今度はやや長めの未来方向にシミュレーションを引き伸ばして、長期的な予測の元で「幸せを育てる」ような行動ができるようになるかも知れない。
夢は広がるね。

・倫理

シオンの行動目的は「サトミを幸せにする」ことに特化しているものの、その実現方法は「友達を幸せにする」ことを介した間接的な方法で、その発展として、次なる小目標は「周囲の人々を幸せにする」ことにシフトしていく想定となる。
(小説版のエピローグにその辺のことが物語られている)

これはエライコッチャで、どのようにしてそれを実現させていくのかについては、もはや妄想の域になってしまうのだが(大丈夫、これまでも十分妄想マシマシだったから)、人類史においても、人々の幸福を最高目的に掲げる「倫理」という学問分野が自然発生・発達しており、その効率を考えたらシオンの思想が「社会倫理」に通じるものに今後発展していく可能性が考えられる。
…なんとなくではあるが、「功利主義」的な快/不快を足し引きする形の発想か、そこまで行かないまでも、少なくとも行為の結果から良し悪しを判断する「帰結主義」的な形に行き着きそうな気はする。
(トウマの助言から、ベンサムの「量的功利主義」的ではなく、J.S.ミルの「質的功利主義」寄りになるでしょう)

幸いにして?シオンは「自身の幸せ」に執着する傾向はなく、勝手に暴走ということにはならない気がする。(小説版では、つきかげ内で自然と幸せを感じている描写があるが、あくまでサトミの幸せの副産物として受け取っている感じ)

しかし、その社会倫理的幸せの判定基準はもちろん「サトミの幸せにつながるか否か」となるわけで、なかなかにハードな未来像が見え隠れする。

…そうなるとサトミが社会の調停者的な立場になるの?
少なくとも『PSYCHO-PASS』のシビュラシステムのようにはならないだろう。

◆結言

…と、様々な誇大妄想をまじえて『アイの歌声を聴かせて』について考察してきたが、結局は、観たあとにこれだけ語れて、あなたはどう思う?と聴きたくなるような作品は、紛れもなく良作だ、というベタ感想に落ち着いた。

特に、脚本・演出にムダがなく(あと難解すぎず)、お子さん方でも難なく理解できる一方、掘ろうと思えばどこまでも掘れる作りに、製作陣のアイを感じた次第。

次の吉浦監督作品も大いに期待して待とう。
(実はまだ『サカサマのパテマ』は観ていないのでまずはそこから)

この記事が気に入ったらサポートをしてみませんか?