池上高志＋石黒浩 『人間と機械のあいだ 心はどこにあるのか』 読書メモ
アンドロイド研究者の石黒浩と人工生命研究者の池上高志による本、両者は正反対の立場から生命とは何か、人間とは何かという点を探求している研究者である。
本書は2016年の実験「オルタ」について触れているが、オルタの報告というわけでもない。専門用語が出てくるが、論文というよりも広く一般に読んでもらうために書かれている。深慮が必要なテーマをとても軽快な言葉で綴っているため、肩透かしに感じるかもしれない。平易に読めるのは助かる。
アンドロイドを人間らしく見せるためにはどうすればよいか。不気味の谷と呼ばれる境界を越えることができるのか、また、それを越える意味は何か。
「見た目によらない生命性」と「見た目としての生命性」という真逆のアプローチがクロスする様子が実に興味深い。
状況や目的を選べば、かなり人間らしいアンドロイドを作ることができるようになってきている。（中略）アンドロイドはさらに進化しようとしている。次なる大きな目標は、アンドロイドに意図や欲求、最終的には意識を与えることである。(p.32)
意識と時間を手がかりに人間をモデル化する試みから始まる。人体は既に機械仕掛けや、人工的な臓器など、体の一部を置き換えることが可能な状況が現れた。その際に、自分自身を認識するメタな認知が、どのような仕組みなのか、それをモデル化と表現しているが、そのモデルが解明されたならば、アンドロイドに意識を持たせるためには、そのモデルを作り上げればいいということになる。
簡単にモデルと表現しているがそれが難しい。自分自身を客観視する自分の存在、これを意識と捉えているが、それが何なのか、途方もない問いかけのように見える。人そのもの、人を人として認知すること。
自らの意図の一部を特定の人間と共有できるということでもある。(p.34)
「心」の本質は、人間やロボットの中にではなく、それを観察して感じる側にあるということになる。(p.37)
これは石黒が、平田オリザと実施したアンドロイド演劇を参照しての言葉だが、アンドロイドを用いるまでもなく、人形劇にも、そうした魂を感じることがある。これは先の引用によれば、”状況や目的を”選んだ状態で、心らしきものを演出としてインストールしたことにより、ロボットに心があるように見えた。そうした観客があった。また、平田の演出はとても細かく、30cm前に出るなどと指導されていたため、プログラムしやすかったとも記述があった。
進化を生命的なDNA的な進化と技術の進展による進化とに分類している。当然ながら後者の進化の方が早い。
人間の真の進化とは、人間そのものの本質的理解に到達することなのかもしれない。(p.39)
すなわち技術によって、人間を再現することを探求しているといえる。有機体から無機物の身体を得た時に、意識が時間から自由になるのかもしれない。
僕らは自分たちの生きている時間スケールでしかものを考えないというクセがあるけれども、これを一〇〇万倍とか一億倍くらいにして考えたときに明日何が起こるのか、という考え方をぼちぼちし始めてもいいのではないかと思う。(pp.42-43)
既にシンギュラリティは訪れているという。コンピュータ（CPUのことを指摘している）の設計にコンピュータが使われていて、既に人の手では達成しえない領域に到達した。指数関数的に性能向上するムーアの法則（＝コンピュータの高速化）を実現していることを受けてのこと。
技術を進化させるものが言語だとすると、人間が作るということは言語で扱えるようになるということかもしれないですね。(p.44)
言葉がなければ、頭の中で聞こえる声も存在しないし、考えることもできない。だから言葉を先にアンドロイドに使わせることによって意識が生まれるのではないか、そうしたアプローチがある。ここに逆問題を持ってくる。
言葉の出現は概念世界をもたらした。現実世界と概念世界に対話が移るが、僕はこの概念世界とは違った（近接しているかもしれない）無限の広がりがある世界としてデジタル世界があると考えている。
概念は現実にグラウンドしないと面白くない。(p.50)
デジタル世界、サイバーワールド、メタヴァース、色々と呼び名はあるかもしれないが、デジタルの世界では概念そのものがデジタルのリアルの中にあるような気がしてならない。
概念世界は90年代までのSF小説や映画で取り上げられていた。最近の技術はそうした世界を実現できる目処がたち、現実世界が概念世界を追い越してしまったような感覚がある。それが近年の閉塞感に繋がっているのではないだろうか。
脳と身体との分離に関する問題に発展する。
もともと脳と身体のつながりは弱いからこそ、たとえそれがジェミノイドの身体であっても、脳がその体の一部に対して予想通りに動いていることを確認すれば、脳は予測に基づいて、他の感覚までも仮想的に再現してしまうのであろう。(p.71)
VR体験を伴うメタヴァースが、真に一般的になった時、仮想世界の中のアバターは自身の身体性の延長線上に現れるだろうか。
見た目のアイデンティティ、自分自身が確立したものによって社会から認知される。
米朝アンドロイドとして復元され、高座では人気であり、チケットはすぐに売り切れるという。紅白だったか、AI美空ひばりが話題になった。美空ひばり本人が、AIで再現された自分を見た感想は誰にも分からないが、米朝は自分をコピーしたアンドロイドを見て嫌だなと言った。自分を客観視するには鏡を見るか、写真を見るか、映像を見るか、いずれも平面に再構築されていて、立体で自分の姿を見ることはできない。アンドロイドによって、それが為された時、果たしてこれが自分なのかと訝しんでしまう。しかしながら、周辺の人は、アンドロイドを見て瓜二つだという。アイデンティティは自分が持っているようでいて、外側からの構築物でもありそうだ。
人工臓器や人工四肢がどんどん進化すれば、人間の体はさらに機械化されていくだろう。そのとき、何を残せば人間であり続けるのか？(P.78)
以前、全く別の本だが、脳をダウンロードして機械の体に移ったとしたら、それはそれまでとは違った身体経験であり、同一人格とは見做せないという論考を見たことがあった。その際に、サイボーグ化したら？あるいは一部の義肢があった場合、それまでの自分は死ぬのか？と、理不尽さすら感じた。生命というのは連続性があるようでいて離散的であり、人の感覚は連続的にしか考えられない。そう捉えたら別の人生と言えなくもないが、5年前、20年前の自分と現時点の自分の同一性とは何か、そうした点が理不尽と感じた理由かもしれない。
生命らしさと想像力は大きくつながっているのである。(p.86)
見る人の興味をひくありとあらゆるものは、生命に近いのかもしれない。(p.110)
マネキンにプロジェクションマッピングしたら、人は立ち止まり、あれは何だろうかと興味を示した。『絶・絶命展～ファッションとの遭遇』での実験。
この「不気味さ」と「生命らしさ」の接続、フィリップ・パレーノを連想させた。
フィリップ・パレーノがワタリウム美術館で見せていた準客体、あれは生命と社会とを非常に小さなスケールで再現したモデルだったように思う。
今のところ、「生命とは何か」という問題は、観察者側の視点で生命を見出すという以外に、答えが出されていない気がしています。(p.153)
まさに準客体とも言える感覚がある。
「心」は、意識は、身体的なところから外に染み出しているのかもしれない。つまり、僕の隣にいる人が僕の意識を構成することはない、とは言い切れないわけです。本当は、この隣に人がいるからこそ、僕が今こういうことを考えているのかもしれない。感覚器官という外部に対するセンサーがあると言われるけれども、その時の外界のパターンも含めて全部つながって意識を立ち上げていると考えることもできるわけで、それは決してめちゃくちゃな考えではないと思うんです。(p.165)
インターネットは脳になれるか？膨大なデータの波に晒されるマッシブ・データ・フローという考え方。わかるということから感じるということへの転換が起こるのは全てを把握して、そこからパターンを見出すことが、もはや不可能だから。
池上が提示したYCAMのマインド・タイム・マシーンは、センサーから得られた情報を提示する作品だった。
これはアートなのか、科学なのかという問いかけではなく、生命とは何かを考察するための実験装置であるという。ビッグ・データ、そうしたデータに晒された中でパターンを取り出し、感覚として捉えることができるのであれば、そこに意識があるのではないかという実験である。目をはじめとする感覚器官から入る情報と脳が処理する情報に乖離がある。脳が勝手にシミュレーションしている。そこに意識らしいものが存在するのではないかということである。
二〇〇〇年以降にインターネット・ウェブが出てきたことで、人間が物を考えるスケールやイメージ、身体性が思いっきり更新されていった。自然現象を模倣したり理解するための人工システムではなくて、インターネットそのものが新しい自然現象としてエンジニアによって立ち上げられた。その結果、生命そのものの定義も知性のあり方も予想できない形で変わろうとしている。それが今のALIFEの状況ではないかと思います。(p.199)
シンギュラリティに対する社会の漠然とした警戒感を表す言葉を見つけることができた。人の意識の変革を迫る。思想ではなく技術が。それが警戒感の源だろうか。
むしろ人間が変わっていくことであり、爆発的な技術の進化により、例えば二〇年前の人の価値観と現在の人の価値観がまるで不連続になる、ということだ。価値観の改革は、哲学書や宗教で起こすよりも、単に現在の技術革新が最も確実かつ高速だということである。特に、人工知能（AI）は最も大きな影響力を持つ技術である。(p.203)
マルセル・デュシャンを引き合いにだし、無意識について言及している。大ガラスから部分の意味の否定と全体としての意味の生成を見出し、それをALIFEと接続している。研究がアートにも接続し、人間・生命を知ることをテーマとしている。こうしたところに、自分が現代アートを研究しようと思った動機が重なる。
今なら、この表現に違和感を覚えることもない。
入力を限定しなくても使えるコンピュータ、それが生命の大事な性質である。(p.224)
例えばコンピュータは、入力装置としてキーボード、マウス、カメラ、マイクなどがある。正しく装置を機能させないと、何も受け付けてくれない。本文ではコーヒーをかけたら熱い、と怒らないのは、かなり限定した計算機であるとしている。
生命の持つ決まらなさは、環境適応力の表れである。とても概念的になった人間社会では、こうした態度の曖昧さが企業人生での適応として現れるのかな、と本気で思う。なんで意思決定しないんだ、なんて常々思うし。
本書を読んでいて、どうしても岡山芸術交流を思い出す。
サイエンティストとアーティストの対話であった。物質が心を持つのはいつからか。人工生命研究の永遠のテーマである。(p.234)
交流なんだ。
アートを学ぶ前に持っていた問題意識、心は何か？感情は、意識は。記憶とは何か？前の人工知能ブームの時に認知科学を研究し、エキスパートシステムの構築を行っていた。情報システム開発に携わり、実務に追われているうちに、いつの間にか人工知能が実用レベルに至っていた。どこか危機感を持っていたに違いない。それが学びの動機だろうか。
いただきましたサポートは美術館訪問や、研究のための書籍購入にあてます。