ヴァーチャル神保町勉強会9回目 『イヴの時間』編
※ 画像の出典: イヴの時間 劇場版 © 2007-2020 Yasuhiro Yoshiura
お陰様でかれこれ９回目の実施となりました。
ネタバレは抑えつつ、レポートを書いていきたいと思います。
勉強すること自体を楽しもうと続けてきているこの勉強会ですが、今回は、AI とともに暮らすときに考えることになるだろう、倫理や社会制度について話す会でした。
これに当たり、ご参加してくださっているかたのオススメで『イヴの時間』という作品を観て、感想を言ったり、議論したりする会を実施しました。
まあ、そもそも AI というと実装については数学や計算機科学、神経科学、そして社会実装上は早くも法学やメディア論の題材となってきているわけで、学際的さは推して知るべしと、期待の高まるテーマというわけですね。
さて、ではイヴの時間についてはどうでしょうか。
こちら、作品自体とても素晴らしいものでした。テーマ設定や展開もかなり意義のあるものだし、映像も美しく、カメラワークも心象に残るため、それを語るだけでも、勉強会の時間が足りないと感じるほどでした。
少し前の作品なので、実は正直、目に余る描写などがあるのではないかという心配もあったのですが、話全体の中でうまく補われていくというか、むしろトータルでは視聴者のかたに平等とは何かを考えさせるものであり、安心するとともに人におすすめしたい気持ちになりました。
これを受けて、見た上で何を議論できるかについても、これも大変多岐にわたるわけです。
見る前に予想していた今回のテーマは
・(人工) 知能とはなにか
・(人工) 知能を受けて、法や社会はどう調整されるべきか
などになるだろうと思っていましたが、これに加えて
・平等をいかに獲得していくのか
・いつ、どの程度、(人工) 知能に人権を与えるべきか
・(人工) 知能が問い直す、人権とは何かということ
・(人工) 知能が問い直す、人と人との関係
こうしたテーマも、この作品を通じて浮かび上がってきました。
また、センシティブなところですが、人工知能が人間と同じことができてしまうとき、逆に人間の尊厳が損なわれる恐れも出てくるわけですね。
特に創作活動について、人間がかなり努力して出来るようになったことを、AI が簡単に実現できてしまったとしましょう。
もし、創作活動をするという人間の尊厳を、人権の一種だとみなすなら…
AI の開発自体が人権の一部を脅かす、と言えなくもありません。
そう、知能としてみたときの AI の特殊な点は、人間の開発の結果であるという点です。 AI という知能が、始めから存在するわけではないのですよね。
だとすれば、創作活動といった人間の活動の尊厳を脅かして来る前に、AI がそうした能力を身に付けづらいよう制限してしまうべきなのでしょうか？
もちろん、一案としては↑のように考ええますが、いくつか問題点が頭をよぎってきます。
もし AI が人間と近しい知性を持つようになるならば、能力を敢えて制限することには非常に抵抗があります。というか、倫理的に問題があるとも言えるでしょう。
それに、そもそも我々は制限したいと思うのか？という点もあります。開発者としてはなるべく優れた AI を作るという動機を持ちますし、AI と接する人間も、能力に制限をかけられた AI を見るのは心苦しく、寂しく感じることでしょう。
これに対して当勉強会は、お陰様で当面の対応をひねり出しましたが、ひとまず、上のリストで上げた他のテーマについてもちょっと書きましょう。
同作品は、人間とアンドロイドの関係のみならず、アンドロイドを通じて人間と人間の関係がどう変わっていくのかも、繊細に描いています。
アンドロイドという存在は、人間と人間がどういう関係を持つべきか、とか、人間にはどういう権利があるべきか、といった、そういうことを意識し直すきっかけにもなるというわけですね。
アンドロイドが人間と極めて近しいとき、アンドロイドと人間という種族間の差よりも、個々人の個性間の差のほうが大きかったりするでしょう。こうしたことは、個性とは何かを問い返すことにもなるでしょうね。
また、アンドロイドは他者である人間の身の安全を最優先しなければなりませんが、これもまた人間と同様ではないでしょうか。
こうした意味で、アンドロイドが人間と近しい知性を持てたとき、たとえさまざまなレベルのコンフリクトが起きようとも、それなりにポジティブな問題提起があるのではないか。このようにも言えそうです。
そもそも、イヴの時間を見た時点で、AI の知性を高めないように努力することは、すでにかなり抵抗を感じるのですが…笑。
さて、AI に人間同様の知性を目指し、従って人間同様の人権を与えるのだとすれば、創作活動の競合として立ちはだかってくる点をどうマネージするか。
ひとまずの対応としては、創作する AI の見た目を人間っぽいものでなく、PC 上の存在とか、ネットワーク上の存在とか、せめて BB-8 のようなものにするとか、そういうものにすれば、尊厳を脅かされた気持ちが和らぐのではないか、という話に落ち着きました。
もちろん、こうした対応で不充分だという点は多いでしょうし、人型を作りたい開発者も現れ、そして彼らがその人型に創作能力を搭載する可能性も高いことでしょう…。こうしたことについては、引き続き考えねばなりません。
いずれにしても、アンドロイドに人権を与えるのを避けたいからと知性を敢えて鈍らせたり、完全に道具として使い続けるのは、一種の自家中毒であり、調和を意識しない分だけデュルケームの言うところのアノミーになるのではないか、という話に落ち着いてきました。
(もちろん、自動車などの既存の機械全てを知性ある存在に置き換えるのは、流石に避けたいということになりましたが。)
アンドロイドが自律性を持つとき、道具的に酷使するのに比べて利便性としては減るのかもしれないけど、そこで人間に与えられる制約というのはむしろ人間を豊かにするのではないか。
これが、今回の勉強会の１つの帰結となりました。
さて、皆さんお思いのこととは思いますが、まだまだ議論できる余地はたくさん残されています。
実装方法についてはまだまだほとんど話せていませんね。
前回挙がった、ランダムにバグを含みつつも進化したり、環境からうまくバグへのフィードバックを与えたりする話は、かなりヒントになりそうでしたので、それを広げていくのも有意義そうです。
少なくとも、自律性を持つには、単にニューラルネットワークから成るのではなく、他の枠組みを組み合わせるなどの飛躍が必要になってくるものと考えられますが、↑のような進化的手法を導入すれば十分なのか、それとも目標を自分自身で設定できるまでにはさらなる飛躍が必要か。これを考えていくのは楽しい作業です。
知性の定義についても、やはり前回の議論をヒントに掘り下げられそうであります。ある目標数値を大きくすべく強化学習的にトライアル&エラーをするとき、それはもはや感情を持っているといえるのでしょうか。そうすると、人間と同程度とまで行かずとも、動物と同程度には愛護される必要があるのでしょうか？
平等の獲得については、ネタバレのない範囲で言うと同作品が示すような地道な活動が、どのように機能していくのでしょうか。このとき、不平等を課している人間と人間同士の関係も、平等獲得を目指す上で欠かせない要素になってきます。
逆に人間のネットワークに着目したとき、人間以外の知性、あるいは汎用知性ではないまでも一定のアルゴリズムを持ったアーキテクチャーや Web サービスと言ったものが、人間のネットワークをどのように変容させているでしょうか。
SNS でのオススメアカウントなんかはまさに、ある種の AI が、人を人にオススメするというなかなかアグレッシブなことをやっているわけです。これが我々の人間関係に対して影響していないとは考えにくいところです。
あるいは SNS のヘビーユーザーのかたでなくても、転職サイトのオススメ求人、そしてその入社後の人間関係に参加することで、推薦システムという AI の影響をやはり受けていることになってきます。
ただちに高度なアンドロイドが現れないまでも、こうした観点に興味をひかれるところです。
言ってみれば、人、人工物、そして自然を含むネットワークの理論といったところでしょうか。
こうした広がりも、是非またこの先の会のどこかでやっていきましょう。
それでは、もしここまで読んでくださったかたがいらしたら…、誠にありがとうございます。
勉強会はまだまだ続けていきますので、ご参加いただくであれ、こうしてレポートを見てくださるであれ、何らかの形でお楽しみ頂けたのであればうれしい限りです。
それでは、また人工物の介在するどこかで、お会いしましょう。
参考文献:
http://studio-rikka.com/timeofeve/
https://www.hanmoto.com/bd/isbn/9784434130335
クラウス・クリッペンドルフ著, 小林昭世 [ほか] 訳, エスアイビー・アクセス , 星雲社 (発売) 2009
※ 人工物のネットワークの話題のヒントとして。
この記事が気に入ったらサポートをしてみませんか？