小説『クララとお日さま』にみるAIのプライバシー

ノーベル文学賞作家カズオ・イシグロ氏から、久しぶりの長篇小説が届けられました。登場人物の曖昧な感情描写に定評のある同氏が、今回主人公に選んだのはアンドロイド。自ら人格を持ち得ない彼女がプライバシーを気にする態度から、今のAI社会を取り巻く課題を振り返ってみたいと思うのです。

　カズオ・イシグロ氏の長篇小説『クララとお日さま』は、分かりやすく時代性を映す。主人公クララはいわゆるアンドロイドであって、太陽光をエネルギー源とすることから「お日さま」を信仰する。そして、その光を遮るほどの汚染物質を撒き散らす重機を嫌い、破壊を試みるけれど、それもキリが無いことに気付いてしまう。一方、クララのオーナーであるジョジーには「向上処置」が施されているけれど、その幼馴染みであるリックは生身の人間だったりする。「向上処置」を選ばなかっただけで大学に入ることが難しい社会に、格差が二人を隔ててしまう。AI、エコロジー、分断と現代に通底する主要なテーマをしっかりと編み込んだ本作品は、結局のところ、私たちに生きることの意味を問うてくるのだ。何のために、誰のために、どこまですれば満足なのか、と。

クララとお日さま

　AIはどんなに進化しても人にはなれない。なぜなら、感情を持つことができないから、というのが古くからの通説だ。つまり、AIは人格を形成することができない。クララはジョジーの振る舞いを完璧にコピーすることはできても、彼女と同じ気持ちでリックに接することはできないだろう。そんなクララがやたらとプライバシーに配慮するのが面白い。AIの特性上、ジョジーのことをより多く学ぶために、クララは彼女の動きをずっと見ていたいし、彼女の発言をずっと聞いていたいに違いない。それでもB2型のAFとして作られたクララには、周りの人間を不快にさせないよう、プライバシーを尊重する機能が実装されているから、たびたび行動に自制がかかる。ジョジーとリックが部屋で二人きりの時には、その場に控えてはいるものの、ひたすらに外を眺める様子が描かれている。このバランス感覚が妙に人間らしさを醸し出すのだ。

　憲法・情報法を専門とする宮下紘氏は著書『プライバシーという権利』にて、「プライバシーの保護の対象となるのは「恥」にとどまるものではなく、各人のあらゆる属性としての自我、より法的な言い方をすれば「人格」なのだ」と述べる。人格の自由な発展は日本を含む各国の憲法が謳うところであって、この一要素として、プライバシーの権利は保護される。物語の途中、クララは母親に促されて、ジョジーを演じてみせた。そこで母親が触れたのは、ジョジーらしき人格である。「いましゃべってるのは誰？」。クララがこれまでの学習の結果として導き出した言動が、母親の心に届いてしまったのである。この行為によって、母親のジョジーに対する感情は無意識に変わるかもしれない。すなわち、クララが作り出した偽の人格が、ジョジーの人格発展に影響を与えてしまうのだ。これはプライバシー権の侵害に他ならない。人間よりも高度なアンドロイドが配慮すべきプライバシーは、人間に倣って他人の私生活を覗き見ないようにするだけでは足りていない。

プライバシーという権利: 個人情報はなぜ守られるべきか (岩波新書 新赤版 1868)

　『クララとお日さま』の世界は遠い未来だからと、たかを括ってはいられない。すでにAIは私たちの身の回りに溢れている。SNSへの投稿、ECサイトでの買い物、スマホアプリの利用、あらゆる行動はAIによって学習されている。彼らはクララとは違って、姿かたちが見えないのをよいことに遠慮がない。一方で、同じように偽の人格を演じることはできる。あなたのフリをして、自らの趣味嗜好を店員に伝えることで販売促進を促したり、自らの政治思想を選挙候補者に伝えることで選挙戦略を助言したり、いつの間にか形成されていくあなたの人格が本来の生活に影響を与えはじめているのだ。

　この状況に宮下氏は「かつて第一世代としての私生活の保護、第二世代としての自己情報コントロール権、そして第三世代としてのプライバシー権の核心には、プロファイリングを念頭におき、ネットワーク化された自我を造形する権利を基底とする必要がある」と論じる。そして「データが人間を操る主体ではなく、あくまで人間が主体となり、自らの人格を、データによるのではなく、自らの手で造形していくプロセスが保障される必要がある」と。幸いにもジョジーを演じる必要がなくなったクララは、ジョジーの自立に伴ってその役割を終える。そして、もし望まれたとしてもジョジーにはなれなかったと振り返る。残念ながら今のAIが、自らこれに気が付くことは期待できないだろう。だからAIの使い手であり、作り手である私たちが、十分に配慮してあげる必要があるのだ。

つながりと隔たりをテーマとした拙著『さよならセキュリティ』では、「4章 現実と仮想 ーインターネットを漂う個人」において、データが作り上げる個人の実態について触れております。是非、お手にとっていただけますと幸いです。