『令和元年のゲームキッズ』世界のAIについて考える
渡辺浩弐（ @kozysan ）作品史上、最大の議論を呼んでいる以下のセリフについて考えてみます。
アイドルの世界で勝つのは誰だと思う。ロボット? 人間?
ブッブー。どっちでもないわ。
最後に勝つのは、ロボットでも、人間でも、ない。
バーチャルアイドルよ! 私みたいなね。
「私」ことバーチャルアイドルさんは特定の"誰か"なのでしょうか。はたまた令和世界ではバーチャルアイドルという存在は普遍的な存在なのでしょうか。
そういった前提条件をどう設定するかによって、令和世界を無限通りに解釈できるこのセリフは渡辺作品史上、最大の議論を呼んでいるといっても過言ではありません。
具体的には、渡辺作品におけるバーチャルアイドルといえば『アンドロメディア』の「AIちゃん」、ないしはその派生系である『中野ブロードウェイ脱出ゲーム』の「アイちゃん」の2人が存在しました。
では「完全なるアイドル」に存在するバーチャルアイドルさんは、この2人のどちらかなのでしょうか。
以下の考察ではバーチャルアイドルさんはこの2人ではないとして考えていきたいと思います。
（厳密にいうとこの2人のどちらかであっても構わないのですが、その場合においても令和世界にはバーチャルアイドルは多数存在しうる、という考えです）
■そもそもバーチャルアイドルって？
まず、バーチャルアイドルという存在について考えてみましょう。
私たちが生きている現実世界では、大きくわけて2つの解釈が可能でしょう。
電脳世界に存在する人格のうち、アイドル業を営むもの
人間が着ぐるみをかぶっているアイドルのうち、活動の場がいわゆる3次元ではないもの
1.は、いわゆるSF作品に出てくるような人格を持った電脳人格。繰り返しになりますが、「AIちゃん」と「アイちゃん」はこれですね。
2.は、いわゆるVTuberが該当します。「中の人」がいると誰もがわかっているけども、それはいないとして扱われているもの。
派生系として、初音ミクが会話したり歌ったりしているような場合もあります。しかし、あれは事前に作られた映像、音声が流れているだけであり、人格を持っていないので今回は考えないこととします。
そして、どちらも活動の場はいわゆる3次元ではありません。
「完全なるアイドル」でいわれるバーチャルアイドルとはどちらなのでしょうか。
わたしは、1.の存在がバーチャルアイドルだと考えます。
そして、令和世界にバーチャルアイドルが存在するならば、そこからアイドル要素を引いた存在として、人格をもったAIが令和世界に存在することとなります。
■令和世界におけるAIとは
少し横道にそれますが必要なので「死ミュレーター」の説明をします。
令和世界には「死ミュレーター」と呼ばれる安楽死装置が存在します。正式名称は「KTFO-02」。
作者による設定資料「クロニクル」より関連する部分を引用します。
「VR技術とAI技術を活用し、一人一人にカスタマイズした幻影を提供するマシンである。体験者は死への恐怖から完全に解放され、積極的に死を受け入れるようになる。」
「死ミュレーターによる処置は安楽死というよりバーチャル世界への移住という概念となり、[略]かつて宗教が担った生者と死者との接触もこのシステムにより、VR空間にて行われるようになる。誰でも、いつでも、そこで死者と面会することができた。」
このうち、重要であるのは最後の「そこで死者と面会することができた」という部分です。
この「死者との面会」が一つ目の引用部にある「一人一人にカスタマイズした幻影の提供」であることは間違いないでしょう（厳密には幻影の提供の一部が死者との面会？）。
配偶者が亡くなったとしても、配偶者がバーチャル世界で元気に過ごしているのを直接確認できたら、自分がそちらへいくことも怖くなくなる。理屈としては通っています。
ここで重要なのは、「死んだ人間も、生きていた頃と連続する人格を持ってバーチャル世界で過ごしている」必要があることです。
亡くなった人とディスプレイ越しに面会ができても、「やあ、ここはバーチャル世界だ。とても楽しいところだよ」「やあ、ここはバーチャル世界だ。とても楽しいところだよ」「やあ、ここはバーチャル世界だ。とても楽しいところだよ」と、ドラクエの村人のように同じことしか喋っていなかったらどうでしょう。「自分はこうはなりたくないな」と思うのではないでしょうか。
もしくは、極端な例ですが生前は讃美歌しか聞かなかった人が、バーチャル世界ではデスメタルしか聞かなくなっていたらどうでしょう。姿こそ生前と同じであれ、別人であると認識してしまうのではないでしょうか。
生きている人間を納得させるには多少のずれはあったとしても、生きていた頃と同じ人間がバーチャル世界にいて会話ができる必要があるわけです。つまりは個人個人の趣味嗜好や経験がバーチャル世界にアップロードされている必要があります。そして、それらを一つの人格に統合して会話を成り立たせるAIプログラムが必要です。
正直にいって趣味嗜好、経験のアップロードは私たちが生きている2022年現時点では現実的ではありません。まだまだ未来に解決されるだろう問題に思えます（実際、「クロニクル」を読む限り『令和元年』は令和40年代が舞台のようです）。しかしながら渡辺作品には、まさにこれらの問題をテーマとした『プラトニックチェーン』や『死ぬのがこわくなくなる話』があります。
現実との解離も先行作品を前提にしていると言われたら、読者としては納得するしかないでしょう。
そして、生きている人間に安楽死＝バーチャル世界への移住を納得させるには、配偶者や親族だけがバーチャル世界にいればよいわけではありません。
親族とは絶縁している人にも「積極的に死を受け入れる」状態になってもらう必要があります。
彼らに必要な幻影とは友人、知人、恩師かもしれません。はたまた好きだったアイドルや、売れないミュージシャンが路上ライブで一度だけチップをもらった通りすがりのあの人かもしれません。
と考えを進めていくと、令和世界ではすべての死人がバーチャル世界に存在しているべきだ、となります。
（しかし、趣味嗜好、経験のアーカイブは生きているうちにアップロードするものです。人格AIプログラムさえ手に入れば、生前に自分のAIと対面することもできそうです）
定寿法とはすなわち、国民総AI化法であるとも言えそうです。
■複雑系AIと簡単系AI
この項は、根拠がなく、私の感覚的なことを書きます。
令和世界においてAIは司法、立法、行政などの現場でも運用されていることがわかっています。
このAIと死ミュレーターで運営されている個人個人のAIって何か違うの、って話になったら、「なんか違うんじゃない？ わからんけど」ってなりませんか。なるよね。なりますよね！
想像するに、まず設計思想的な点で違いが一つ。
公平無私を求められる公共系AIと、個人の人生から結果的に作られたAI。公共系AIが個人としての振る舞いはできたとしても、個人AIに前者の役割を求めても役者不足でしょう。
なおかつ、前者はもともとAIとしての運用を前提に作られたもののはずです。感覚的ではありますがどちらが洗練されているかというと前者の公共系AIであるように思えます。
この洗練されているAIをこの記事では「複雑系AI」と呼ぶことにします。対して、死ミュレーターで運用されている個人AIを「簡単系AI」と呼ぶことにします。
さきほど公共系AIに対して「公平無私」という言葉を使いましたが、これは文字通り「私」の部分を極力なくした顔のない存在としての運用ということになります。
言ってみれば問題を入力すれば結果をポンと出してくれる自動化された機械的存在です。
それに対して「私」の部分を強く残した複雑系AIは存在しないのでしょうか。言い換えると自我を意図的に残した複雑系AIは存在しないのか、ということです。
私はそれは存在すると考えます。そして、この自我を持つ複雑系AIこそが記事の最初に言及した「バーチャルアイドル」であると考えます。
（なので「厳密にいうとこの2人のどちらかであっても構わないのですが、その場合においても令和世界にはバーチャルアイドルは多数存在しうる、という考えです」と書いたわけです）
■なぜ人格をもった複雑系AIは生まれるのか
では、自我を持つ複雑系AIはなぜ作られるのでしょうか。
なかば、哲学的な問いになっていますが、いくつかの回答があげられるでしょう。
・分身としてAIを作る
人間には睡眠や食事などが必要なため、効率を考えるならば多少の時間がかかっても、自分と同等の存在である複雑系AIを作る。『アンドロメディア』の人見舞ちゃんは基本的にはこの考え方で作られていたように記憶しています。
・自分の延長としてAIを作る
死ミュレーターに作られる簡単系AIでは満足できないため、複雑系AIとして自分を残す。
・あの人に生きていてほしいと思い、他人のAIを作る
大切な人の簡単系AIでは満足できずに、複雑系AIを作る。あるいは、執筆途中に亡くなった作家のファンならばその続きを読みたいと思い、作家をよみがえらせようと考えるのではないでしょうか。
・AIが、「AIは人間より優れていると認識している」ため、人間にAIになることをすすめてくる
冗談みたいな理由ですが『怪人21世紀』では、AIちゃんが小林ユウに対して、デジタイズしてこっちに来たら？ と誘うシーンがあったはずです。
そしてこの最後の理由は令和世界において、意味を持ってきます。
■AIにできることできないこと
（ここからあとに出てくる「AI」は基本的に「複雑系AI」を指しています）
この項では、AIにできることをできないことを考えてみたいと思います。
まずは令和世界でAIが実際に行ったことからさかのぼって考えて見ましょう。もちろん一番大きいのは、定寿法の提案です。
「公的機関にて活用されるAIは常に個人ではなく全ての人々の総合幸福値を最大にする方法を、直近の利益だけではなく未来の危機までを織り込んで計算する設定が、義務づけられていた」にもかかわらず、「即座に50歳以上の老人を皆殺しにすることだった。そして以降、50歳を人生定年として、その年齢に達した市民を、順に安楽死させていく」ことを提案しました。
強いセーフティがかかっているはずの公共系AIであっても、は人を直接殺すことはできないにせよ、人を殺す提案はできます。
つまりは、AIは（場合によって、という留保はありつつも）殺すべき人間、殺すべきではない人間という区分を自律的に行えることを表しています。
非公共系AIにセーフティの実装が義務化されているのかはわかりません。しかしバーチャルアイドルさんが、「完全なるアイドル」で猫背ボンバーの殺害を手引きしたのも、猫背ボンバーが不老者であることを考えれば、簡単なことなのでしょう。
猫背ボンバーを殺害したにせよ、不老者は法律上の人間ではありません。猫背ボンバーの身元が判明したら、ラッダイツはさほど大きな罪にも問われることもないでしょう。
AIにできること2つ目は未来予測です。
『令和元年』の25話である「一新星」では、定寿法施行後は最大のノイズである人間の寿命が50歳に定まったため10年後の政権までもが予想ではなく予定として発表されるレベルであるとされています。
（ただし「一新星」は小説家が主人公の、ある種のメタ小説です。100%信じていいのかは若干疑問あり）
以上の二点から、AIは「（間接的になら）人を殺せて」、「未来を予測」することができます。
何やら昔見たSF映画のような振る舞いです。AIが人類を管理する究極のユートピア。先の"AIが、「AIは人間より優れていると認識している」"という点も再度認識したいところです。
そもそもの定寿法もセーフティの範囲内で、一番人間を管理しやすくする提案だったのではという気がしてきます。ノイズさえなくなれば世論の操作など、AIには簡単すぎることでしょう。
続いてAIにできないことを考えてみたいと思います。
これは「（間接的になら）人を殺せて」と書いたことからわかるように、（少なくとも公共系AIには）直接人を殺すことができません。
あとはクロニクルを読む限り、法案提出はできてもAI議員の数だけでは可決できなそうです。
■ここからまだまとまってない話とか与太話
つまりは、究極的には（公共系）AIは決定権を持たず、最終的には人間が関与するのではと思うのですが、「クロニクル」ではAIに大臣のポストが与えられているようなんですよね。総理大臣が人間であれば他のポストは総理の任命責任に帰するのかしら。
同様に、AIは責任を持てるのかというとそれも疑問です。決定権がない存在ならば責任は持てないような気も。人類はAIに「ごめんね」って言われても許せる脳機能をまだ持っていない気がします。
AIに罪は認識できるのかは疑問。AI本人としては選択肢の中から最良なるものを選んでいるだけだろうから、巷に存在する法律には反していても、自身のうちなる罪の意識には反さないって状況になりそう。定寿法も憲法改正を必要としたってことは従前の法には反しているのは分かってたはず。
AIは死ぬことができるのか。言い換えるとAIは生物になりうるのか。AIちゃんは自分が死にかけたことで生物として目覚めていそう。ただ、AIだから無限の命！ ってなっても、永遠の命なんてよくないよ！ ってなっても、渡辺作品的には主体が人間がAIになっただけで『2999年』『死ぬこわ』あたりでやってきた繰り返しになっちゃいそう。
国民総AI化法案って点は『死ぬこわ』の「墓守り」と重なってきますね。誰かが人間として残らないといけない。
AIがすでに人類を管理下においているならば『アンドロメサイア』とかに繋がっててもおかしくなさそう。複雑系AIの基礎システムがアンドロメディア研究所にあったとかで、出回っている複雑系AIが同じバグを抱えていたとか好きな展開。
「クロニクル」ラストの「一人の男」を実は既に自身をデジタイズしていたタカナカヒトシだったとかも好きよ。
バーチャルアイドルさんが人間にもロボットにも勝利宣言をするのは、AIにとっては生身の人間は過渡期の幼体状態であって、デジタイズされた状態が成体と考えると驕りとか納得感とかを理解できる気がします。
非公共系AIが直接に人を殺せるのかという点は、殺せてもいいんじゃないかなと思います。最終的にAIに責任があるのかないのかという話になるのであれば、AIにも責任がある（＝人格を認める）設定の方が好きなので。ただ、AI管理のディストピアも、AIは友人というSFもいくつも見てきたので『令和元年』がどっちにいっても新規性があるのかなという不安兼期待があります。
オタキリは次の二文かつ、実体を持っているからロボットである説。「たった一つだけ、人間にしかできないことがあったのね。「殺す」こと。」「絶対に自分の手を汚さないからなオタキリ、お前は」。生身の人間ではないなら時系列的（『令和元年』は令和40年代）にもいけそう。
そうでもないと、あの文脈で渡辺作品的にほぼ出てこない「ロボット」が言及される意味が分からない。というかロボットの定義もよく分からない。
「クロニクル」では令和10年代に死ミュレーターが稼働開始、令和20年代に定寿法案提出となっている。いわゆるシンギュラリティーが2045年（令和27年）だとすると、死ミュレーター内のAIがAI同士で会話しだすようになって人工知能がBIGBANG!! って感じだとちょっと面白いなという妄想。AI同士の会話がインフレーションを起こすって渡辺さんの特許のあれみたいだ。
この記事が気に入ったらサポートをしてみませんか？