#21: 強いAIは人間とは違うのか? （答え：違います）

前回（#20: AIは創造性を向上させるか?）に続いて、AIの能力についての話になります。

問い合わせをいただいたお客様からは、前回の内容に加えて「近い将来にAIが人間と同じように研究活動を行うようになるだろうか?」という質問もいただきました。
端的に答えとしては「出来ません」なのですが、そう伝えても「強いAIと呼ばれる存在ならできるのではないか?」とさらに質問が・・・ということで、本日は「"強いAI"と人間は何が違うのか」を書いておこうと思います。

強いAI、弱いAI

この議論をするには、まず強いAIと弱いAIについての定義を抑えておく必要があります。この言葉は学術的な言葉ではないので厳密かつ合意された定義はないのですが、今回もWikipediaをまずはみてみましょう。

弱いAI: 弱いAIは人間がその全認知能力を必要としない程度の問題解決や推論を行うソフトウェアの実装や研究を指す。

これだけ見るとわかりづらいですが、もう少しわかりやすくすると「ある特定の領域の問題に対して、限定された方法で問題解決や推論を行うソフトウェア」であると言えます。
現在存在しているAIと呼ばれるシステムやソフトウェアはこの弱いAIに分類されます。機械学習を活用したAIは、アルゴリズム自体は汎用的であったとしても、学習データが属する領域の問題しか解くことが出来ません。

次に強いAIについての定義をみてみましょう。

強いAIと呼ばれるのは、人間の知能に迫るようになるか、人間の仕事をこなせるようになるか、幅広い知識と何らかの自意識を持つようになったときである。

こちらは弱いAIに比べて、かなり曖昧かつ幅がある定義ですね。「人間の知能に迫るようになる」 or 「人間の仕事をこなせる」 or 「幅広い知識と何らかの自意識を持つ」とすると、この定義内でも難易度にかなり幅がありそうです。

人間の仕事をこなせる・・・だけであれば、今の弱いAIの方向性でも、限定的な内容なら達成可能かもしれません。人間の知能に迫る・・・となると、まずは人間の知能とは何かという定義が必要になるので、かなり難しいです。

そして、自意識を持つ・・・となると、これはさらに難しい問題が発生します。仮にAIが自意識を持つとして、そのAIは「どのようにして自分を認識するのか」という問題です。何らかのデバイスをあるならばそれを感覚器官として認識することは不可能ではないかもしれませんが、システムがInput/output deviceなしの状態になった時に、AIは自己を認識できるのでしょうか・・。

エンターテインメントで描かれるAIたち

強いAIはまだ現実にはなっていないので、その存在を理解するためにはエンターテインメントに頼った方が良いと思われます。実際に、AIを利用していると思われるロボットやシステムというのは、エンターテインメントの世界で数多く出てきます。

日本人であれば真っ先に理解できるのは、ドラえもんでしょう。22世紀の未来から送られてきた猫型ロボットのドラえもんは、ほぼ人間と変わらない活動を行うことが出来ます。

映画では「ターミネーター」が最もポピュラーな例かもしれません。ターゲットを殺すために未来から送られてきたターミネーターは、人間と同じように思考をしながらひたすら相手を追いかけ続けます。

ターミネーターには、そのターミネーターを作ったAIとしてスカイネットも登場します。スカイネットは「審判の日」を引き起こし、人間に対して戦争を仕掛ける機械たちを生み出したAIです。
作品によって多少設定に揺らぎがありますが、自我を持ち、自分を消滅させようとする存在と戦う・・・という存在です。上の定義を使えば、まさに強いAIですね。

さて、これらのようなAIが仮に出来たとして、その時にこのAI達は「人間と同じように研究活動をできるようになる」のでしょうか?

実をいうと、これらのAIが実現しても人間と同じように研究活動を行うことは出来ないと考えられています。

人間のみができると想定されること（今の所は・・・）

ドラえもんやターミネーターには出来なくて、人間にはいとも簡単にできること・・それは「目的を自由に設定する/変更する」ということです。これは人間にとっては簡単でも、AIで実現するのは非常に難しいことです。

研究活動においては、まず自分が何を成し遂げようとしているのか、あるいは何を成し遂げたいのか・・・ということを自分で設定する必要があります。そして、この設定された仮の目的（仮説）は、実際の結果に応じて絶えず見直す必要があります。
むしろこういったゴールの見直しや方向の変更という意思決定は、長期的に「より正しい」道を選ぶために必要不可欠です。

しかし、AIにはこういった変更は出来ません。
ドラえもんは何があってものび太を守ろうとしますし、ターミネーターが自発的に改心してターゲットを追いかけるのをやめることはありません。どれほど優れたシステムを持っていたとしても、外から与えられた目的を自分で変更することは、現在のシステムの構造では出来ません。

言い換えれば、人間に残された/人間が今後も行うべきは、どこに進むべきかの道をさし示すことであると言えそうです。