《命》を《使》うAIの心の在り処〜Vivy -Fluorite Eye's Song-AI心理学〜

　2021年春アニメとしてWIT STUDIOが送るSFアニメ、Vivy -Fluorite Eye's Song。PVを見て気になっていたので録画をし、世間の波からは少し遅れましたが7月に一気見をしました。
　結論から言うと、大満足の一言。
　Vivyやマツモトを始めとしたキャラクターの魅力、物語の熱量、音楽や演出などの迫力……挙げればきりがないと思います。
 
　そして、これだけ『人工知能』というテーマの奥深さを引き出した作品。世界には同じジャンルで沢山の名作がある。
　そうなれば、『機械に心が宿るのか否か』。そういったことを考えない手はないと思うのです。
　《Vivy》を通して描かれた『使命』や『AIの心』、『AIの生き方』、そういった物に触れながら、『《命》を《使》うAIの心の在り方』というものを考えていきたいと思います。
 
　本稿はVivy -Fluorite Eye's Song-の全話視聴後考察になります。当作のネタバレを含みます。 

１．そもそも心とは

　困った鬨のネットに頼ってみると……

語源・多義的用法
　心、こころ
　心（こころ）の語源はコル・ココルで、動物の内臓をさしていたが、人間の体の目に見えないものを意味するようになった。
 
「心」の多義性
　広辞苑は以下のようなものを挙げている。
 
　人間の精神作用のもとになるもの。
　人間の精神の作用そのもの。
　知識・感情・意思の総体。
　おもわく。
　気持ち。
　思いやり、情け。
　他に 趣き、趣向、意味、物の中心、等。
　（Wikipediaより）

 
　そもそも意味が多かったですね……さすが物質ではなく概念を指す言葉です。

ヴィヴィとモモカ。その笑顔に差異は感じられない。

　本稿においては、「人間の精神作用のもとになるもの。人間の精神の作用そのもの。知識・感情・意思の総体」あたりが近いのではないかと思います。
　創作などを除いた現実世界では基本的に人間において用いられる言葉。
　それに近い言葉ですと、『精神』なんかも出てきそうな感じです
 

精神（せいしん、英: Spirit）は、心、意識、気構え、気力、理念、などといった意味を持つ言葉。（Wikipediaより）

 
　上の情報を見てみると、個人的な印象ですが心は魂に近く、精神は知性に近いように感じます。
 
　動物には？　心はある……と言えるでしょうが、（高度な）精神となると……微妙なところ。
　もちろん心理学、哲学、医療などで色々な定義があるので異見はあるでしょうが、本題ではないのでここまでにしようと思います。

２．《Vivy》における自律AIの定義

ヴィヴィ・エリザベス（複製体）・マツモト。いずれも知性と感情を人に感じさせる。

　AIとは、artificial intelligence（人工知能）の略となります。生命の営みの中で発生した生命由来ではなく、人間が機械において宿らせた知性。
　そして《Vivy》において、ヴィヴィ＝ディーヴァは『初の自律人型AI』という触れ込みを持って誕生しました。
　劇中では、それまで自律AIという存在は開発されてもどうも上手く稼働しなかったようで、行動に問題があった。そこに《使命》という大きな一つの方針を与えることで、一体の機械のみならず一人の人格としても歯車が回るようになったとのこと。
　自律AIにはそれぞれ使命があり、それを基に自律AIは動いている。ヴィヴィであれば『歌で皆を幸せにすること』ですし、マツモトの場合は『パートナーと共にシンギュラリティ計画に準ずること』。エステラ・エリザベス・グレイス・オフィーリア、物語の核となる彼女らや他のAIもどうように何かしらの使命を背負っている。

同じ使命を持つエステラとエリザベス。

　劇中ではその使命の書き換えや、同じ文言の使命に対する《認識》の変化によって、様々なドラマが生まれていました。
　例えば、ヴィヴィは『歌でみんなを幸せにすること』という使命を与えられていますが、その《皆》を目の前の一人とするとか、あるいはそれよりも大きな人類全体とするとか。ヴィヴィはその矛盾で精神崩壊を起こしましたが、そもそもその《皆》の定義が与えられた使命の時点で確定していれば、ストレスになったとしても矛盾は生まれなかったかもしれない。
　そういった単なる機械のように固定しない領域があることで、むしろヴィヴィたちに人と見まがうような知性を与えているようにも感じます。

３．ロボットの原則の数々

　ロボット三原則、というものがSF作家アイザック・アシモフから提唱されています。

・第一条：ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
・第二条：ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
・第三条：ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

　別にこれが全ての規範となるわけではないですし、現実にこの規範は問題を引き起こす可能性もあるらしいですが、いずれにしても『使命』をはじめ、自然と人格を得た存在ではないAIは、常に外部から与えられる規範によって支えられているのが確かなようです。

自壊を選ぶ（実際にはアントニオの策略ですが）オフィーリア。そもそも三原則から外れていますね。

　では、そんなAIに知性を宿らせようと人間が努力したとして、果たしてそれは知性と呼べるのか？　という問もある。
　目の前にあるAIが「人間的か？」ということを判定する事においては、『チューリング・テスト』というのもあったりします。人間と機械を別々の部屋で、文字盤などだけで会話をさせて、人間が相手を人間的かどうか、というものを判断させるテスト。
　その分で言えば、《Vivy》の自律AIたちは明らかに人間的であるとは言えそうですね。

４．人間とAI、それぞれの《使命》

　ここまで長ったらしく三原則やら定義を肴としてうえで、本題の『AIに心が宿るのか？』ということを考えてみたいと思います。
　まずは、《Vivy》での重要なテーマである《使命》について。
 
　ロボットは三原則・《使命》を始めとした、他者が与えた方針に従って稼働している。それが自由意志ではなく、束縛された物であるから、どうしても機械という印象が拭えない。
　ならば、人間が持つ《使命》に相当する規範とははんなのでしょうか？

「私たちはいつまで稼働するかじゃない。どう稼働し続けるかでしょ……！？」

　ロボット三原則は人間を傷つけないことなども挙げていますが、人間にそれを当てはめると犯罪者などは軒並み人間ではなくなってしまうので同じ原則は当てはまらない。腐っても、心が冷たくとも、犯罪者も同じ肉体と感性を宿した人間であることに変わりはありません。ただ、社会という規範を保つために区別されるだけで。
　目的、といえるのかは判りませんが、多くの人間は『生きて子孫を繁栄させること』であったり、『自分の生きた証を後世に伝える』事じゃないかと考えています。所謂ジーンやミームと言いますか。まあ、筆者はそこまで詳しくないんですけど。
　当然世界中に60億人以上いる人間、上の枠から外れる人間も出てくるでしょうが、全部はずれとは言えないと思います。

　ともかく、人間は文化的遺伝子ないし遺伝子を残すという目的があり、そのために結婚したり、家族を助けたり、芸能を極めたり、時には罪も犯す。その本能と言うべき枠組みが、《Vivy》のAIで言う所の《使命》なのではないでしょうか。

　《Vivy》のAIは使命を果たすというそれぞれの目的があり、そのために歌を歌えば人も助け、時にAIを殺す。
　人間・AI共に自分の意志ではなく、誰かの意志によって生まれ堕ちた可能性です。人間は生存本能という枠組み、AIは規範という枠組みに沿って動いているのだと言えるのかもしれません。

　※ところで、使命という単語は《使》と《命》です。意味としては与えられた務めであったり、役目、任務責務であったりする。《命》は別に生命ではなく《命令》の意ですが、それでも《命》を《使》うと読めるのは、それを持つAIたちにある種の命が宿っていることの証明かもしれませんね。

５．AIと人間に共通する《知性》の成長過程

　《使命》の次は、《知性》について。これについては、人間もAIも近いところまで持っているのではないかと思います。なんならAIの方が知能としては高いことは当たり前のようにあるでしょう。
　行ってみれば、判断能力でしょうか。例えばリンゴを見て「これは果物だ」と判断する能力。図書館にいくために「この道を通ったほうがいい」と判断する能力。
　これらは単なる計算ですが、人間もAIも成長していくうえでは《矛盾》を避けて通ることはできません。

「どうすれば歌を歌えるのか……どんな歌なら歌えるのか」

　人間は生きている限り何度も矛盾にぶち当たる。例えば、昨日まで仲が良かった友達と喧嘩をして嫌いになること。これはそれまで通用していた『友達とは仲がいい』という価値観と『友達が嫌い』という矛盾を抱えることになります。
　意識的にせよ無意識的にせよ、その矛盾に対して人間は、『友達とは気に入らないところもあるが一緒に過ごせる』というような新たな価値観を創造して矛盾を解決する。ざっくりと書きましたが、この過程は止揚（アウフヘーベン）と言われる哲学の概念に近いです。
　現存の価値観では太刀打ちできない矛盾を前に、経験や思考を基に新たな答えを得ること。《Vivy》の劇中でもヴィヴィを始めとした多くのAIが、それが人道的にせよ反社会的にせよ、なんども停滞から新たな答えを得ているように感じました。ヴィヴィの『心を込めて歌うことの意義』を始めとして、新たに『私にとっての人類はマスターだ』というエリザベスなど。
 
　矛盾を前に停滞することなく動き続けること。ただ悲観的に言えば、それは（架空世界のみなのかは判りませんが）学習型のAIなどであれば、新たな答えを得たり、人間の価値観を模倣することで「見せかけの価値観の創造」のようにはできるかもしれません。

６．『心』の在り処

《心》を込めて歌うとは……

　使命、本能と呼ぶべき行動指針は、人間もAIも持っている。
　知性やその使い方は、人間もAIもそれを使って行動指針に挑むことができる。
　ならば、ただの機械になく、人間が持ちえる《心》とは何なのか。最後に、それを考えていきたいと思います。
　使命も知性も、心を持つことの証明にはならない。どちらもただの機械的なAIでも持ち得るから。
　そもそも同じ人間同士でさえ「あなたは人の心はないのか」だとか、「心が冷たい」だとか、定義があやふやな《心》という存在。
 
　《Vivy》を見た中で、筆者はその判断基準は、『生きた判断を下せること』にあるのではないかと思いました。
 
　それは、例えば『矛盾を矛盾のままに許容すること』でもあると思います。
　人間の知性と成長に対して『止揚』の考え方を挙げましたが、これに対してもう一つ、人間には『答えを出さずに逃げ出す』という行動をとることができます。それはマイナスな意味合いではなくて、矛盾に打ちのめられそうになる前に『矛盾は矛盾のままでいいや』と許すことです。
　《Vivy》においてヴィヴィもまた、『歌でみんなを幸せにすること』と『そのために一人の人間を自殺させてしまった』ことの矛盾で精神崩壊を起こしてしまいました。逃げ出すことではなく、停滞して休むこともなく、行き場のなくなったエネルギーが自己破壊を起こす作業。現実の機械であればフリーズするとでもいうのでしょうか。
 
　人間でも、職場や人間関係などで矛盾してしまった結果心を壊す人もいますが、そこで心を壊さず、さりとて新たな価値観を見つけるでもなく、『まあいいや』と現在の価値観のままで自我を強め、精神崩壊を来さずに強くなれる可能性を持つのが、人間の人間たる所以ではないかと思うのです。
 
　矛盾を判断できない状況でフリーズしないこと。その時の《自我》そのものが強くなり、矛盾を許せることが、心の証明ではないか？
 
　『生きた判断』とは強くなった《私》という《自我》が『私が使命を果たすために、他でもない《私》が判断を下しているんだ』という自己認識ではないか。
　つまり、『私が《私》である』という認識です。

ヴィヴィ？　ディーヴァ……？　個人的に好きなシーンです。

　本稿で何度も出てきた《使命》という言葉。では、『誰が』使命を果たすのか。
　人間は、生まれた赤ん坊の頃は当然言葉というものを話せません（一部例外はあるかもしれませんが）。その時、目に見える言葉は言葉で表される『親』や『天井』や『食べ物』ではなく、ただの存在そのものです。その中で成長するに連れて、徐々に自我を確立していきます。加えてただの自我でなく、時間をかけて現代に即した自我を確立していきます。
　自我とは、意識の中心といえばいいのでしょうか。『私を認識すること』です。
　同時に、例えば自己同一性の確立で言われているような「私は○○だ」という認識は、「私＝○○」ですが「○○＝私」ではありません。本質的には『私』と『○○』は違う存在であり、つまり『自己＝非自己』を認識することなのです。

　人間は自我を持つ、確かな『私』がいるといえます。これが強くなっても弱くなっても、自我の誇大妄想（私は神だ）や希薄化（自分がない）という所謂病的な状態になるわけです。
　また原住民では、『我々が神に祈っているから世界に朝が訪れる』という認識を持つ人々がいることもある。これは別に病的ではなく、ちゃんとその社会の世界観に沿った精神性です。
　AIは人間が作り出した基準を基に判断を下しており、それは人間がいいところの善悪・大小・強弱と言う様々な判断ですが、それは他者にゆだねられた生気のない判断ではなく、『例え他者から管理されたとしても確かに私がその決定を下している』という感覚。それが『生きた判断』であり、AIや人間を問わず心を持つという一つの規範ではないかと思うのです。

《私》が《私》を滅ぼす物語。

※この場合ですと「自己を自己と認識できない人間や、動物等には心がないのか」という議論にもなりそうですが、今回は『人間とAIの差異』を考えているので、深くは探らないで行きます。

　では、『機械に心が宿るのか』、とりわけ『《Vivy》世界のAIには心があるのか』という問について。
　ここまで語っときながら断言できないのが申し訳ないのですが、あくまでそこを決定づけ、客観的に証明するのはAI自身ではないかと思います。人間の心でさえ人間は証明できないのですから。
　ですが、あくまで自分が見える世界の中で、自分の目の前に存在する人間やAIに心が宿るかどうかを判断するならば。

　《私（Vivy）》が《私（AI）》を滅ぼす物語。その中で、世界や使命のために動くだけでない。
　同じAIであるヴィヴィを一個人として認識でき、自分を犠牲にしたエステラ。
　AIと人間のために『自分』が結婚することを理解したグレイス。
　『歌でみんなを幸せにする』という使命の中の『みんな』に、アントニオという機械存在を入れられるオフィーリア。
　ヴィヴィとディーヴァ、二人の人格を同一機体でも別の存在として触れ合うマツモト。
　『記憶を乗せて歌を歌う』という、データを乗せるのではなく『自分が見た自分の』記憶と認識したヴィヴィ。
　彼彼女らは、心が確かに宿っていたのではないかと。そう思いたくなるのです。

Fluoriteは《蛍石》の意。それ自体は無色、しかし内部の不純物により様々な色を帯びるようです。

　浅い知識、一度きりの鑑賞による浅い理解。それでも、素晴らしい作品を見れた熱をそのままにAIの可能性を考えることができたと思います。
　拙文にお付き合いいただき、ありがとうございました。

※本稿の画像は、《Vivy》公式Twitterより引用しています。