2023年 92冊目『AIに意識は生まれるか』

松岡正剛さんが主催しているAIDAに参加しています。

今回のテーマは情報と意識のAIDA。

毎回、何かと何かのAIDAについて半年間で学んで自分の事業に活かすことがテーマです。

AIDAはリクルートと三菱商事が松岡さんにお願いして、スタートしました。

私はリクルート時代に会社から派遣で1回。独立してから４回。
合計５回目の参加になります。

今回の１日目もキレキレだったのですが、２日目に向けて課題５つのうち２つが本。

本を読む前と後で「AIに意識は生まれるかについての変化」について求められました。

中尾のコメントです。

みなさんはどう思いますか？

（１）が事前、（２）が本を読んだ後の事後です。

（１）最新のAIについてのキャッチアップはできていないですが、AIがどこまで人間に迫れるのかについては、色々考えるところがあります。

そもそも「大量のデータ処理」と「反復処理」の２つについて人間はAI（コンピュータ）に勝てません。

また現在の生成AIのような特化型AIの進化は凄いものがありますが、汎用型AI（AGI）はいつできるのか。本当にできるのかは意見が分かれるところだと考えています。

先日、ソフトバンクワールドで孫さんは、基調講演で金魚と人間の差が知能で10000倍あるという比喩から話を始めました。

続けて、孫さん自身は、（定義は分かりませんが）5年から10年以内にシンギュラリティの10000倍のAIができる（1万倍という桁数なので、数年のずれはたいした話ではないと説明）と信じているという話をしました。

だからAIを活用しない人間は金魚のようになるのだ、金魚のように扱われるのは嫌だからAIを使い倒そう。と話していました。

また、「強いAI」と呼ばれているAIの定義では、（現在は汎用型AIと類似の意味で使われますが、）人間の知能に近い機能またはそれ以上の機能を持ち、自己意識や精神を備えているとあります。

この「強いAI」が実現すると、人間の存在意義はあるのか。AIにコントロールされるのではないか。しかし、これは（人間か進化の中で他の生物を淘汰したように）進化の中で人間が淘汰されても仕方がないのか。そんな事を考えますし、それを防ぐことは、できるのか。するべきなのか。そんな疑問がわいてきます。

（２）情報や意識に関しての理解が深まりました。そして、ワールドモデルで、人間がAIにより淘汰される可能性が十分にあるのではないかと心配が高まりました。

まず、この本には、情報と意識の定義がありました。

IIT（意識の統合情報理論）によると、「情報とは、無数にある物事の可能性を減少させるものごとを指す」

公理０：意識は存在する

公理１：意識には構造がある

公理２：意識は情報である

公理３：意識は統合されている

公理４：意識は排他的である（筆者は懐疑的）

「意識は、特定のあり方をした情報のまとまり」。
脳内にある情報のまとまりを外側から見るとアクセス意識で、
内側から見るとクオリア。

⇒ある存在が意識を持つためには２つの条件が必要

１．情報が特定されていること

２．情報が再帰（リカレント）しなければいけない：あるものが自分自身について言及

↓

入力があって、（内部から信号を受け取り）、（内部に対して）出力⇒Φがあるので、意識がある。

中国語の部屋（※）は、外から見ると意識があり、IIT的には意識が無い。

中国語の部屋 - Wikipedia

これらの考えの一部は私の意識観と重なるもののもありますが、初見であり、理解できたか自信がありません。

ただ、確実に言えるのは、このような中国語の部屋的なAIは作成可能で、実際今でもあります。現在のＡＩについての議論は、中国語の部屋を外から見て、意識がある。正確に表現すると、意識の有無よりも実際、意識があるようにふるまうので、意識があると判断して良い。というものだと感じました。

では、これ以上のものができるのか。つまり中から見ても、あるいは、上述の２つの条件を満たすことができるのか。

これは、グローバルワークスペース理論により人間がしていることを説明できるのだとするならば、プログラミングでき、早晩このレベルのＡＩを作れる可能性が高いと感じました。結果、人間を凌駕するAIも作れるようになります。いやー、怖過ぎです。

AIに意識は生まれるか

▼前回のブックレビューです。