Strong AI? Weak AI？ChatGPTはどっち？..意識科学イージー・プロブレム？ハード・プロブレム？（４）

意識のハードプロブレム、Strong AI versus Weak AIに連動

「意識科学会イージー・プロブレム？ハード・プロブレム？」（１）、（2)　、(3）に続く（4）です。

Ｄ.チャルマーズ(David J. Chalmers)hは、意識科学会で扱われる諸問題をイージー・プロブレムとハード・プロブレムに分け、前者は脳の仕組みを究明すれば解明されうる客観的問題であるが、後者は主観的体験、言い換えれば、意識に抵触する異次元の問題であると主張しました。それに対し、Ｄ.C.デネット(D.C. Dennett)は、「意識の多文書モデルMultiple Drafts Model of Consciousnes」をもって、意識は脳の仕組みを究明すれば解明できる問題であってイージー・プロブレムの延長であり、そもそもハード・プロブレムは存在しないと切り捨てます。

デネットが凄いのは論ずるだけでは無く、Cogと称するAIロボットの製作し(Dennett: Making a Conscious Robot)、目に見える形で実証しようとしたことです。AIはヒトの知能と同じ知能を持ちうるか、そのキーとなるのが意識です。すなわち、AIがヒトと同じ知能をもつには意識が持てるかどうかに関わってきます。結果はともあれデネットはまさにそれに挑戦したのです。意識の問題は神経科学の問題であり人工知能Artificial Intelligence (AI)の問題でもあることが明白になりました。

AI界は意識の問題をどうとらえているのでしょうか？手掛かりはStrong AIとは何か、Weak AIとは何かという問題に絡みます。あまたある関連サイト中次の7点から探ってみます。

・Artificial Intelligence Stanford Encycropedia of Philosophy
・Aritificial Intelligence:A Modern Approach AIMA Fourth Ed.（AIMA)
・Getting Beyond the Hype: A Guide to AI’s Potential | Stanford Online
・What is Strong AI？IBM　
・ Strong AI vs Weak AI: What's the Difference? (Builtin)
・SevenTypes of Artifical Intelligence (Builtin)
・Artificial General Intelligence (Wikipedia)

Strong AI versus Weak AI

Strong AIとWeak AIの主たる定義は以下の通りです。

Weak AIとは

・特定の目的にデザインされ特化されたもの、これらの目的には効果的だがヒトの知能のような幅広い認知力に欠ける。Getting Beyond the Hype: A Guide to AI’s Potential | Stanford Online

・別称は特殊AI (specializedAI)または狭小AI(narrow AI)、特殊なタスクにおいてはヒトを凌ぐ。SevenTypes of Artifical Intelligence (Builtin)にリストされたAI７タイプの内、Reactive Machines（当座のリクエスト・タスクに即応できるが、過去の経験を記憶し学習できない)か、Limited Store Machines（知識を記憶するものの将来のタスクに応用することができない）に該当する。Strong AI vs Weak AI: What's the Difference?

・1つの特定問題を解決できるが汎用認知能力(general cognitive abilities)を持たない。学術ソース(some acdemic sources) の中には、意識を体験できない 、ヒトと同じ心を持ちえない全てのプログラム、とより広範囲に定義しているものもある。"Artificial General Intelligence" Terminology (Wikipedia)より

その他のサイトもほぼ同じです。Weak AIと、特定のタスクをすることができるが、ヒトのように記憶や体験を基に新たに学習したり、意識的体験をしたりすることができないAIを指します。

Strong AIとは

・汎用人工知能（artificial general intelligence /AGI)とも称され、ヒトのような(human-like)認知能力をもつ。 理解し、学習し、それにより得た知識を順応力と創造力を要する広範囲のタスクに応用できる。潜在的にヒト・レベルのタスクが可能で、感覚を持つ実体として議論の対象になりうる。”Getting Beyond the Hype: A Guide to AI’s Potential | Stanford Online”より。

・汎用人工知能 (artificial general intelligence /AGI)とも称され、ヒトと同じ方法で（in  the same ways)行動し行為を遂行できる。ヒトの汎用知識を真似し（mimic)、問題を解決し、ヒトと似た方法で（in ways similar to our ways)新しいスキルを 学習できる。知識を一般化して次々に異なるタスクに応用し、当座の知識に基づき先の計画を立て、変化に合わせて環境に順応する。" Strong AI vs Weak AI: What's the Difference? "(Builtin)より

・ 現象学的意識 （phenomenal consciousness）を含むヒトの全ての精神的能力を有する（have all the mental powers we have, including phenomenal consciousness）、すなわち、人工人間のこと。”Artificial Intelligence Stanford Encycropedia of Philosophy”8章より。

・ ヒトと違わぬ（indistinguishable from teh human mind)こころをもち、問題を解決し、学習し、将来を計画する可能にする自覚的意識（self-aware consciousness）を有する。子供の様にインプト情報と体験を通し学習し、時が経つに従い、その能力を促進し向上させる。”What is Strong AI？IBM”より

Strong AIはヒトと同じように、問題解決、記憶と経験を基にした学習、事前に用意されたタスクのみか環境とともに変化するタスク、将来計画も立てて実行できます。要は、汎用性に富んだ知能(general intelligence)を持ち合わせ、それを持ち合わせないWeak AIと根本的に違います。

但し、”Artificial Intelligence Stanford Encycropedia of Philosophy”8章と”What is Strong AI？IBM”の2つは、それぞれ「現象学的意識 （phenomenal consciousness）を含むヒトの全ての精神的能力を有する」「ヒトと違わぬ（indistinguishable from teh human mind)こころをもつ」と定義し、ヒトと同じ「意識」、または、「精神力」を有することを必須としています。

それに対して、”Getting Beyond the Hype: A Guide to AI’s Potential | Stanford Online”と Strong AI vs Weak AI: What's the Difference? (Builtin)の２つは、それぞれ、「ヒトのような/認知能力」"human-like cognitive capabilities"「ヒトと似た方法で」（in ways similar to our ways)程度に留め、ヒトと同等の「意識」「精神力」を有するかどうかという点には踏み込まんでいません。

Wikipediaの"Artificial General Intelligence" は、次のように両者の定義を並列し、2段構えの定義をしています。

・汎用人工知能（artificial general intelligence）、フルAI(full AI)、ヒトレベルAI( human-level AI) 、汎用知的アクションを指すが、感覚(sentience )または意識( consciousness)を伴うコンピュータプログラムに限定する学術ソース（some academic sources)もある。"Artificial General Intelligence"の Terminology (Wikipedia)より

このある学術ソース（some academic sources)には意識をもつロボットCogの開発に着手したデネットらのAI開発を示唆しているものと思えますが、AI学術界のある一部(some)の主張であることを匂わせています。

Super AIとは、AIの現状、ChatGPTは？

実は、そのいわば控えめな定義に留めているGetting Beyond the Hype: A Guide to AI’s Potential | Stanford Onlineは、先端AI界中心のシリコンバレーの最有力アカデミアであるスタンフォード大学が、AIのノン・エキスパートに向け、ChatGPT以来AIへの過度の期待と恐怖を煽るhype(過激報道）を諫める目的で発したものです。

よってStrong AIを控えめに、ヒトに似た（human-like）認知能力を持つ、すなわち、ヒトの認知能力そのものではないことを強調したかったからでしょう。このサイトではIStrong AIの上にスーパーAI（Super AI super-artificial intelligence)があるとし、

・ヒトの知能をはるかに超え、 自己向上、自己意識の域に入り、ヒトの全能力を凌ぎ、自立して新たなテクノロジー改善を図る。.”Getting Beyond the Hype: A Guide to AI’s Potential | Stanford Online”

と定義しています。もし、Strong AIが、ヒトと同じく「意識」を持つようになれば、やげてはSuper AIになり、それは、サイエンス・フィクションの中でのいわば絵空ごと、絵専門家の見方では、現状はWeak AIの上限に近づいたのみで、Chat GPTはStrong AIに向けてhuman-like AI開発へのモチベーションを上げたことは確かでありそれ以上でも以下でもないと結んでいます。

このサイト記事はAI開発は多岐で困難な問題が山積みで、莫大な金が掛かり（デネット自身Cogの開発を断念したのは巨額の資金が掛かることだとも言っている）、ゆえに社会の関心も高くAI hypeの温床になりやすいと警告しています。ちなみにHarvard Business SchoolのThe AI Hype Cycle is Distracting Companiesにも企業の困惑ぶりが窺えます。

まとめ

Strong AI とWeak AIの決定的相違は、ヒトのような、または、あるいは、ヒトと同じ「意識」があるかどうかという問題に抵触することには間違いありません。かくして意識科学と同様に、AI界でも意識のハード・プロブレムとイージー・プロブレムが存在することは確かです。ヒトにとって代わるAIの開発？いやはや、さてはて、どうでしょうか？（その５）に続きます。