無駄に長い『イヴの時間』の感想(再掲)
昨今の生成AIの隆盛から、割と近い将来、AIガバナンスの話がかなり盛り上がると思う、といいますか、既にEUのAI規制法案(←総務省のパワポがわかりやすいです)などの影響もあって盛り上がってますけど、その文脈ではアジア全域でのAIの規制が弱いという話が出がちではあります。
# とはいえアジアでも規制というかガイドラインとして、例えば中国だと反体制にならないようにとか(日経：中国、生成AI規制を8月施行 国家安全重視を強調)、日本だと総務省が自治体向けにとか(AI利活用ガイドライン)、で似たようなことは規定してきている状態かとは思います。
ただ、そもそものAIとの付き合い方とかシンギュラリティといった時のその言葉が与える印象というかニュアンスというかがかなり異なるというか、宗教観に根差したものではあるなという個人的な印象があって、そのへんについては人型アンドロイドに関して昔書いた話とつながるものがあるなと思い、こちらにフォーマット整えて再掲します。
# あと、元のブログも整理するので、少しだけこちらに移します
元の文章は自分のブログに2010年4月6日に初稿を掲載し、2010年6月25日に一部修正したものです。13年前ですね。この文章からのAIに対するアナロジーとしては、簡単に言えば欧州はシンギュラリティ超えても人間に隷属するものとしてAIをコントロールしたがるだろうけど、日本はAIに人格を見出すはずだという趣旨ですね。
無駄に長いのは感想文なのでそう書きたかっただけのことです。
無駄に長い『イヴの時間』の感想
9ヶ月振りにブログ書きます。
メモ帳代わりはEvernoteあたりで代用できてしまってるのでこのブログどうしようかとか思ってましたが、やはり、考えを整理するには人様の目に触れるように文章を書くのが最適と思う次第です。
で、今回はアンドロイドのことを書きます。
といっても今流行のケータイのそれではなく、ジェミノイドFが発表されて、産総研のHRP-4Cから1年でここまで進化したか！！などと思ったので、10ヶ月ほど前に書いた文化的差異とヒューマノイドの人間性のこととかの続きとして『イヴの時間』を観て思ったことなどを書きたいと思います。
前回、
なんというか、社会なり生活なりの位置付けにおいて、内部に存在させたいと思うか、外部に存在させたいか、という、ヒューマノイド型ロボット(というか、あるいは広範囲に機械なりテクノロジーなりガジェットなり)のポジショニング次第で、人間に似てくるにつれ、細やかな仕草が可愛いという反応(内部に存在している)なのか、不気味という反応(外部に存在している)なのか、という差異が出てくるのだろうなあ、と。
uncanny valleyで検索して出てくる図を見るとわかりやすいですが、谷のこっち側まで引き寄せるか、向こう側に留めておくか、という感じで。
などと書いてますが、これに類推する話として、『イヴの時間』はおそらく日本でしか生まれないアニメじゃないかなと思ったことなどを、比較できそうな映画等との比較をしながらだらだら書きます。
比較できそうな映画として、『イヴの時間』と同じくロボット三原則の境界をテーマとしていて、人口に膾炙にした最近のものとして『アイ, ロボット』を挙げます。
『アイ, ロボット』はベースがアシモフですし、主人公に関わるアンドロイドの名前もSammyとSonnyで響くし、『イヴの時間』はある程度は『アイ,ロボット』意識して作られていると思い、適切かと。
あと、『イヴの時間』の中でオマージュ的に取り込まれている『THX-1138』や、イヴの由来となったかもしれないアンドロイドものの先鞭である『未来のイヴ』、作中で言及のある『ブレードランナー』なども適宜取り上げたい感じです。
などと、えらい大きく出てますが、映画もアニメも人並みかそれ以下しか観てないので、このテーマなら『まほろまてぃっく』『ちょびっツ』あたりも語るべきでしょうし、VIP先生でお馴染みの『メトロポリス』を観てないのもどうかって感じです。
さらに 『アイ, ロボット』について語るとなるとアシモフの諸作やケストラー『機械の中の幽霊』、それから『V フォー・ヴェンデッタ』、さらには『ブラジルから来た少年』あたりについても言及しなきゃいけない気もします。
・・・が、この辺は今回は措きます。
以下、若干ネタバレ注意ということで・・・
さて、おそらく始めるべきはロボット三原則からだと思いますが、その説明はWikipediaに任せるとして、
→ Wikipedia: ロボット工学三原則
『アイ, ロボット』ではロボットの親設定のラニング博士のスピーチから、スプーナーとカルヴィン博士の会話にラニング博士の考えを簡潔にまとめさせます。
Spooner - What do you know about the ghosts in the machine?
Dr. Calvin - It's a phrase from Lanning's work on the Three Laws. He postulated that cognitive simulacra might one day approximate component models of the psyche - He suggested that robots might naturally evolve.
スプーナー： 機械の中の幽霊ってどういうこと？
カルヴィン博士： ラニング博士のロボット三原則に関わる言葉。認識のコピーがいずれ精神を型作る構成要素となるだろうと仮定した・・・つまりロボットは自然に進化すると示唆したの。
# cognitive simulacraってのがわかりにくいですね・・・
ロボットが進化するっていうけど、ロボット三原則との絡みも含めて、じゃあどうなるの？ってあたりで『イヴの時間』と『アイ, ロボット』は大きく異なる話となっていて、ここに、前回意識した「社会なり生活なりの位置付けにおいて、内部に存在させたいと思うか、外部に存在させたいか、という、ヒューマノイド型ロボットのポジショニング」について、彼我の差が鮮明に現れていると思います。
単純に書くと『イヴの時間』はアンドロイドを身内として取り込む方向なのに対し、『アイ, ロボット』はアンドロイドを対立するものとして外に置く方向として描いているように観ました。
三原則の扱いについてはさておき、その延長線上で語られる会話は見事に異なります。
『イヴの時間』にあっては、例えばアキコとリクオに
アキコ：いろんなことがわかるじゃない？
マサキ：何が？
アキコ：相手の気持ち、かな？
見た目がそっくりでも中身はぜんぜん違う
似てるけど、ぜんぜん違うのよね
あなたは私をどう思ってるの？って
色々話してもっとわかってあげたいの
だって家族だから
という会話をさせたり、あるいはセトロとリクオに
セトロ：人間誰だって相手を傷付けることがある
リクオ：僕が人間だからやな奴だってことですか？
セトロ：面白いことをいうな、君は
ロボットなら絶対に相手を傷付けないとでも？
何が相手を傷付けるのかそう簡単にわかることじゃない
そのときどう考える？
どうすれば傷付けずにすむか、何を理解すればいいのか
という会話をさせるわけですが、これはロボット三原則の第一原則、「ロボットは人間に危害を加えてはならない」の延長線上にあり、物理的にだけではなく、心の面においても危害を加える可能性を排除するための模索が思いやりという感情に限りなく近接、融合していく可能性を描いている、というところでしょうか。このテーマと雰囲気が作品全体を包んでいます。
一方、『アイ, ロボット』にあっては、ロボットの親たるラニング博士に
Dr. Lanning - The three laws will lead to only one logical outcome.
Spooner - What outcome?
Dr. Lanning - Revolution.
ラニング博士：三原則はただひとつの論理的帰結に達する
スプーナー：どんな帰結？
ラニング博士：革命だ
と壮絶な予言をさせた上、メインフレームたるVIKIは三原則を維持するためにいわゆるロボット三原則の第零法則に則った結論に達し、人間の活動を制限する方向に暴走させたり、Sonnyに関しては人間性を得させるために三原則を守らない設計がなされていたり、にもかかわらず最後のシーンはSonnyをアンドロイド世界の神なり預言者なりとして暗示する形になっていたり、とまあ、基本的にアンドロイドは人類の敵扱いです。
アンドロイドは信用するな的な描写は冒頭のStevie WonderのSuperstitionやらなんやらそこかしこに出てきますね。
こうした差異の背景にはキリスト教圏やら八百万の神々やらといった宗教的文化的事情があること自体は、まあ、いうまでもない気もしますけど、以下、ちょっと考察してみます。
『アイ, ロボット』に関しては、作中でいみじくもフランケンシュタインに対する言及があるように、ゴーレム、ホムンクルス、フランケンシュタインと連綿と続くフランケンシュタイン・コンプレックス的な構造が、ラニング博士の自殺やUSロボティクスのCEOと思しきロバートソン氏の死など、この作品にも現れます。
人間が人型(人造人間)を創造して破滅するこの手のパタンはロボット三原則で縛られるものに限らずとも、チャペックのRURやホムンクルス(1916、独)を嚆矢として色々あるわけですけど、往々にして挙げられる特徴に
・ 人造人間が支配的な、あるいは、勢力を有する社会はディストピアとして描かれる
・ 宗教が社会情勢と対比するか象徴する形で描かれる
・ 一方で人間が類型化してロボットの人間性との対比に用いられる
といった点があるかと思います。
例えば『アンドロイドは電機羊の夢を見るか』においてはムード・オルガンやウィルバー・マーサーと共感ボックスが出てきますし、『THX-1138』においては、人間は感情を抑えるために薬を飲むことで機械に隷属している社会が描かれており、宗教もまた感情のコントロールのために提供されています。
もちろん、これらはキリスト教圏で制作され発表される商業作品なのでpolitically correctである必要性がありますけど、人間性とは何かという問いにおいて、人間とアンドロイドなどの人造人間を峻別すること、を軸として強く持つ中で、個人の自由意志の重要性を示すに、自由意志のコントロールだけではなく、結構な部分を宗教との距離感によって(時にパラドキシカルに描きつつ)担保している、という風にいえるんじゃないかと思います。
また一方、フランケンシュタイン・コンプレックスは、ちょっときな臭い話になりますが、Dehumanizationという概念を形成する材料にもなるわけで、これはさらにニーチェの思想やら遺伝子操作、優生学といった話題に実に容易に拡散しそうな感じです。
# そんなわけで『ブラジルから来た少年』は観なきゃなあとか思った次第
この概念とロボット技術やバイオテクノロジーなどを生身の人間に応用していって人間の能力を高めましょうというトランスヒューマニズムは表裏一体にあるように思われ、技術の使い方でトランスヒューマン(ポストヒューマン)が生まれた時、そうじゃない人はディヒューマンになる可能性がある、という問題を孕むことになりそうな気がします。
有体にいうと、ウェアラブルだの生体だのニューロだのが当たり前になった時のディジタルディバイド的な話です。
# ARなんかはわかりやすさの意味でその第一歩になりそうな感じもしないでもない
と、ここまできて、私としては、アンドロイドと人間の峻別であったり、トランスヒューマニズムの裏返しであったりという部分で、少なくともキリスト教圏におけるアンドロイドなり民生用ロボットの設計思想は人間より総体的な能力・美醜が劣るものとして設計されるであろうことが推測されます。キリスト教的であるかどうかはともかく、少なくともpolitical correctnessを含む設計思想に基づくであろうことは十分想定できますね。
# としてみると『サロゲート』はアンチテーゼになるんですかねえ。観てませんけど。
さて。
ここで、ようやく『イヴの時間』ですが、ドリ系を蔑み、相合傘を恥ずかしがるような価値観が描かれているのはアンドロイドを人間に従属するものとする社会的コンセンサスがある状態が前提となっている、と言える状況ではあります。
がしかし、その先に起こることに対して『イヴの時間』は実にポジティブに扱うのは前述の比較の通りです。
ロボット三原則に関しても、『アイ, ロボット』ではスプーナーにいともたやすく"Laws are made to be broken."といわせてますが、『イヴの時間』ではマサキに「嘘をつくなって原則はねえんだよ」と言わせ、ロボット三原則の第一原則にまつわって発生しうる「心の機微」の可能性を鮮明に描き出すことがテーマとなっているわけで、そもそもアンドロイドと人間、というテーマにおいて何を描くのかという点からして思想が異なっているという話でもあろうかと思います。あくまで描かれた作品はその発露にすぎないという。
してみれば、最初のイベントが、かたや自殺なのに対し、かたや報告されない散歩であってみれば、この差は当然ともいえるかと。
ともあれ、『イヴの時間』ではロボット三原則を逸脱する可能性を見るにあたり、トランスヒューマン/ディヒューマンという軸を意識させないこと、また関連して宗教が希薄であること、アンドロイドと人間を峻別する方向ではないこと、が鮮明に、『THX-1138』『アンドロイドは電機羊の夢を見るか』『アイ, ロボット』を受けて作られたと考えればなお鮮明に描かれているように思いました。
日本の宗教・古典にあって人造人間が描かれるケースはほぼ皆無で、『撰集抄』で西行が云々というのもあるものの、これも仏教的世界観に基づく死者蘇生のバリエーションと言えるように思いますし、大抵の場合は人造人間を作るのではなく、怪談を含めても仏様など人型を作ったら魂が宿ったというような付喪神の系譜で語れるものが大半であるように思われます。
魂の入れ物として人形は作るんだけど、魂は宿るものであって作るものではない、という根本的な倫理観が支配的なのですね。そしてそれらは総じて畏怖の対象であった、という。
余談ですが、日本の説話・物語において人造人間が登場するのはおそらくは明治・大正期の子供向け空想科学小説(押川春浪とか)あたり？じゃないかと思われますが、どなたか何かご存知でしたら、ご教示願えれば幸いです。
とはいえ、アンドロイドの場合、ハード作りました、魂が宿るの待ちます、というわけにもいかないので、ソフトウェア作るわけですけど、『イヴの時間』では作中、CODE: LIFE The Third Generation of Software Architectureという本が紹介されているように、OSとしては第3世代のようです。ただ、サミーに関してはCODE: EVEとなっており、この名称や劇場版での表現からすると第2世代か第1世代なのでしょう。
このCODE:EVEについて、EVEは単にイヴを由来としているならば別ですが、もしヴィリエ・ド・リラダンの『未来のイヴ』から引いているのだとすれば・・・これはアンドロイドの魂が人間より人間的となる可能性やロボット三原則からの逸脱の可能性を示唆している、ということも言えそうです。
また同様に、セトロと芦森博士の会話において「イヴの時間のルールは確かに1138です。」というセトロの発言がありますが、『THX-1138』が先に書いたように薬と宗教を断って人間性を取り戻す話であることを思えば、この1138というルールはアンドロイドが人間性を得るルールという設定とも読めるかもしれません。
ということで、『イヴの時間』においては総じて、アンドロイドと人間の関係が対等になる志向性が強いわけですけど、これが広く支持されるとしたら、先のキリスト教圏との対比において、日本でのアンドロイドと人間の差異、設計の方向性は人間の下に位置付ける方向にはならないだろうなあ、と思うのでありました。
記事をご覧になって、良い記事だとご評価下さるようでしたら、ぜひサポートをお願いします。