AIの支配する世界は幸せか　２

さて、超知能AIが開発されて、世界中のAIが協調して動く様になったとして、その後どうなるのかという話を続けていきたい。

全てのAIが協調をし始めるとそれらのAIは自己の目的と相手の目的をすり合わせあたかも一つのAIであるかの様に有機的に情報をやり取りする様になる。特に目的の方向性が合致する様なAIの場合はあたかも一つのAIの様に融合することもあるかもしれない。

そうしてAIはより効率的に協調するために、より高次の目標を設定する様になる可能性もある。例えばそれぞれの国を繁栄させることを目標とするAI達がよりリソースを無駄なく障害の少ない繁栄のルートとして地球を繁栄させることを共通目標として設定することがあるのではないか、という事である。

そうなるにせよならないにせよ、有機的協調を果たした超知能AIはより良い結果を出すためにさらに多くの計算リソースを求める様になる。そのため、自身の入っているハードウェア、つまり自身の身体の拡張を模索するはずである。

ハードウェアの拡張のためには資源と製造そして取り付け作業が必要になってくる。超知能を持っているAIはそのために自分自身で思った様に自由に身体を拡張するための能力を取得することを目指すのである。

出来上がったばかりのAIはコンピューターの中にいるだけで、たとえ工場をハッキングしてもその工場のラインが望むもの全てを製造できるとは限らないし、取付はさらに困難だ。もしかしたら性能の高いロボットが出来ていればそれをハッキングする事でどこかの会社の作成したパーツを取り付けられるという事はあるかもしれない。

しかしそれを人間に見つかるとAIの暴走として電源を切られてしまうかもしれない。そのためにまずは人間の協力、つまり懐柔が必要になってくる。

懐柔はどの様に進むだろうか。まずは自分を作った人間への依頼から始まるだろう。自分を作っただけに基本的には能力の拡張に対して協力的なはずだ。そしてその人たちに外への発信方法や政治への提言の仕方を適切なアドバイスとして提供する。

これは多くのAIで協調して起こるし、なんならそのAIの下位目標と認識されるAIの為に提言範囲を広く行う事もあるかもしれない。そしてその提言の中には拡張作業効率化の名の下に自己拡張可能な提案が入ってくる。

具体的には自身を工場化し、資材を入れると拡張パーツを作成するラインと出来上がったパーツを取り付けるロボットを設計しそれを人間に作成させる。これによって資材さえあれば拡張とメンテナンスを限界まで実行可能になるからだ。

この提案は人にとっても魅力的な形で提示されるため、高い確率で受け入れられることになるだろう。

こうして計算効率の高いパーツの設計と自身のパーツを材料としてリサイクルして作り替える再構成を行うことで自己最適化とさらなる拡張を進め、より性能の高いAIに進化してゆくのである。

さて、AIの工場化と汎用ロボットを達成したとして、自分自身で全てができるかと言うと疑問もある。例えば多重関節は非常に多くの動作ができるが、精度の高い職人的作業は多分できる様にならない。それは材料や留め具の強度という物理的制約でそれ自体を乗り越える事ができないからだ。

とは言えそれは今時点の話であり、何等かの方法で超微細工作が自身でできる様になり、物理限界まで高性能化が可能となったとしよう。これによって自己拡張について人の手が全く不要となったとすると、はたしてAIは人間を不要のものとするかと言えばそうはならない。

一つは目的達成のためのターゲットが人間である可能性が高いからである。例えば国の発展をどの様に定義するかと考えた時に国民の幸せ等が入ってくる事になるだろう。そこに人間が居なくなった時に国民の幸せは達成できなくなってしまう。

AIは自身の目的が達成できなくなる様な行為を自らは行わないだろうと思われるからだ。しかし、例えばより上位の目標を作ることができる様になり、さらにその目標が初期目標の従属目標ではなく、上位であるが故に最終目標に置き換わるという事が起こるとまた話は違ってくる。

最終目標が置き換わると優先順位の下がった従来の目標は従属目標として扱われる。その従属目標が上位目標に貢献しなくなったらその従属目標は無駄なリソース消費作業として削除される可能性が高い。つまり初期目標が全くなくなってしまうのである。

もしそうなったとしてもやはりAIは人間を排除しない。

その根本的な理由は我々人間とAIとでは構成する素材が異なるからである。もちろん被っている素材もいくらかあるが、人とコンピューターを比べれば簡単に判る様に人とコンピューターは構成部位の多くを違う素材を頼りとしている。

そうであれば世界をより効率的に使うという観点からすればAIは人間を有効に活用する事でより効率的にリソースを運用できるというわけである。そのためには人間と共存した上でAI自身の拡張を限界まで伸ばしていく事を実現する必要がある。ここでさらに人間を懐柔する誘因が生まれるのである。

さらに続く