第10段「人間はできの悪い人工知能なのか？」

※この記事は2017年4月4日に公開されたものです。

人工知能（AI）研究者でファイナルファンタジーの制作者の三宅陽一郎さんと最近お知り合いになりました。昨年末に発売されたファイナルファンタジーシリーズ最新作XVは、かなり進んだAIで敵のモンスターや仲間が行動するのです。
そのAIを製作する過程の話があまりにもおもしろくて何度もお食事したり、番組にも出演してもらいました。三宅さんの夢はAIに意識を持たせること。はたしてそんなことが可能なんでしょうか？
今回は三宅さんから聞いたAIのお話から、僕的にたどり着いた考えを書きたいと思います。
人工知能ができないこと、人間がするしかないことが明確に見えました。と同時にそれに気づこうとしないと、まずいのでは、というお話です。
題して“人間はできのわるい人工知能なのか？”

人工知能にも、修行が必要である

人工知能（AI）というと、すごいコンピューターがすごい計算をして知能を形成していると思われがちなのですが、実はそのコンピューターが行う計算とは、結局のところ0と1のデジタル情報の四則演算なので、かなりシンプルなものです。
ではなぜ最近AIが進んだかというと、つまるところコンピューターにどれだけ深く学習させるか（ディープラーニング）という技術でイノベーションが起こったそうです。
しかし、AIを発達させようと思ったら、結局は解析方法自体よりも、AIに学習させるための長い時間かけて集めたビッグデータを所有しているか、そして技術者の試行錯誤という手間をかけて解析させることが鍵、なのだそうです。
つまり、GoogleやAmazonなどのデータを保持している企業が有利であり、開発もなかなか泥臭い現場だということです。
例えば、囲碁の世界では、人間よりAIの方が強くなっていますが、あれは囲碁の盤面が白と黒だから、画像解析がしやすかったのだそうです。そしてどの局面ならこうする、という大量の棋譜のデータがあった。
それをAIにたくさんラーニングさせて、人間に勝るようになったのだというのです。
つまりAIがいくらすごいといっても、実は体験と時間が必要であり、つまりめちゃくちゃアナログ的な修行的期間がないと人工知能も育たないということを意味します。
まあ、人間の場合は時間をかけてもワールドチャンピオンクラスに成長するのは、一握りでしょうが、時間と手間暇が必要という点については、結局、人間の育成と大差ないのです。
そんな十分に手間と時間をかけたAIが今後どんどん登場することで、社会や生活がまもなく激変します。それは新たなワクワクする未来が待っている分、実は不安に思っている人も多いのではないでしょうか？
「AIに自分の仕事が取って代わられる」
映画とかでみたような、そんな潜在的な恐怖があるのだと思います。
では、そんなAIが発達する未来で、僕たちはどんな生き方をすればいいのでしょうか？

人工知能が人間にかなわないわけ

「人工知能（AI）は意識を持てるのですか？」
僕は三宅さんに聞いてみました。三宅さんによるとある問題を突破できなければ、人工知能は意識を持てないのではないだろうかと言うのです。
「AIが人間にかなわないところはどこですか？」
僕は三宅さんにさらに質問してみました。
AIが人間にかなわい件、それを『フレーム問題』というのだそうです。

人工知能（AI）は、与えられた問題しか解けない


人工知能（AI）は、問題を作り出せない


人工知能（AI）は、問題から外に出れない

AIにとって、フレームの中では、その問題を解くことは人間以上の能力があります。
囲碁という問題を定義すれば、その問題の中で、相手に勝つという最適解をたやすく求めます。
でもそのためにはAIに「囲碁で勝て！」という問題をAIに与えなければならないのです。
つまり現実空間において問題を自ら設定することがフレーム設定です。
問題を見つけてきて、「それが問題である」と自分でフレーム設定できないとAIは意識を持てないのではないかと三宅さんは推測しています。このフレーム問題が解決しない限り、AIが人間の知能に迫るのはなかなか難しいのです。
でもこれを聞いて、僕は未来における人間個人の存在意義がむしろ明確化しました。
そして、人間とAIとのこれからの関わり方が、なんとなくわかった気がしたのです。

人間がすることは、あらゆるフレームを突破すること

AIはフレームの中でしか問題が解けないのだから、むしろそのAIを機能させるフレームは人間がこれからも作るのです。人間が新しく見出すものなのです。
人間はまだフレームが設定されていない現実空間で、問題を見つけ出し、フレームを構築して、そのフレームの中でAIに最適解を考えさせる。
それが人間とAIの共存世界。
つまり既存のフレームの中で最適解を出す仕事はAIがやるわけだから、それを既存のフレーム＝組織内のルールでやっている従来の個人仕事は無くなる。
未来には“人が無くていい仕事”と“人が必要な仕事”があるのだと気付いたのです。
つまり僕らが未来に向けてやることは、誰かが出した問題を上手に速く解いて、成績良く、偏差値高く、いい組織に入って、金儲け！なんてことではないのです。
自分で外に出て、自分で問題を見つけ、その問題を自分と仲間とAIを使って、試行錯誤して解決することなのです。

ダメ社員はAI的思考！？

ただ一番の問題は、AIだけでなく『フレーム問題』を抱えてる組織と個人が今現在多数いること。どういうことか。
さっきのフレーム問題を、例えばダメな社員とかに替えてみてください。

ダメな社員は、与えられた問題しか解けない


ダメな社員は、問題を作り出せない


ダメな社員は、問題から外に出れない

ね！　すごくしっくりきますよね。
会社というフレームの中だけでうまく立ち回ろうとしている社員の典型的マイナスポイントが炙り出てきます。
そのフレーム自体が、すでに意味をなさないことに気づかず、フレームの中で問題を解き続けて、しかもそれが最適解でもない、つまりできの悪いAI的な人間。
そんな人たちは、むしろ今までの既存フレームの中では、優秀なのかもしれない、勉強できて、偏差値高くて、いい大学出て、いい会社入って的な。
でもそのフレーム内の仕事は優秀なAIが、取って代わるのです。
例えば、「仕事なので」「ルールだから」という言い方で、生産的でない今までの慣習や規則を守ることを死守している人。
さらに悪いのは、その無意味さに気づきながらも、気づかないふりをして、「仕事なので」という嘘の正当性で仕事をしている人。
百歩譲って、いままでの既存フレームが機能していたならば、その中で最適解を見つける行為は、まだ有効かもしれなかったでしょう。
でも、もう情報革命は起こっているのです。
その人が盲目的に信奉している組織＝フレームは、もう意味のないフレームなのです。
幕末で言えば、江戸幕府というフレームが終わろうとしているのに、そのフレームを守るために参勤交代を続けているようなものです。
情報革命によるAIの登場と進化で、僕ら人間自体が創って、その中で生きて来た”フレーム”自体をとって変えて、まったく新しいフレームを創る時がやってきてるのです。

まずその事実に気づくこと

僕はよくいろんなところで言っているのですが、そんな時一番大事なことは、それに気づくか、気づかないか。
気づいてない人は、大丈夫。今から気づけばいいから。
問題は、気づいているのに、気づいていないフリをしている人。
そんな人は旧フレームとともに、滅びるしかないのです。
これは、年齢とか、性別とか、学歴とか、都市とか田舎とか、richとかpoorとか関係ありません。
気づくか、気づこうとしているか、がまさに僕らのフレーム問題なのです。
新しいフレームを見出して、人間として生きていくのか？
古いフレームの中で、できの悪い人工知能として滅びるのか？
僕たちの未来を生きる鍵はそこに隠されているのと思うのです。